一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

阿里云Serverless 容器服務(wù)全面升級:新增組件全托管、AI鏡像秒級拉取能力

話說科技 ? 來源:話說科技 ? 作者:話說科技 ? 2023-06-02 14:30 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

6 月 1 日在阿里云粵港澳大灣區(qū)云峰會上,阿里云智能云原生應(yīng)用平臺總經(jīng)理丁宇宣布,Serverless 容器服務(wù) ASK全面升級,進一步幫助企業(yè)和開發(fā)者降本提效。

Gartner 曾預(yù)測,2023 年 70% 的 AI 應(yīng)用將基于容器和 Serverless 技術(shù)開發(fā)。作為云原生的重要技術(shù)組成,K8s 已經(jīng)被開發(fā)者和企業(yè)廣泛認可,然而其自身復(fù)雜性和陡峭的學(xué)習(xí)曲線依然讓人望而生畏。

阿里云在 2018 年發(fā)布了首個Serverless容器服務(wù)ASK,其本質(zhì)是將容器的運行時和具體的節(jié)點運行環(huán)境解耦,讓用戶無需管理K8s節(jié)點和服務(wù)器,即可直接部署應(yīng)用,大幅降低容器服務(wù)的使用門檻。目前,ASK在容器化應(yīng)用、在線業(yè)務(wù)彈性、AI/大數(shù)據(jù)計算類任務(wù)等場景中被廣泛使用。

此次 ASK 的全新升級,進一步整合了阿里云基礎(chǔ)設(shè)施的能力,在使用成本、創(chuàng)建效率、異構(gòu)資源兼容、彈性供給保障等方面帶來顯著提升,解決開發(fā)者在使用K8s的復(fù)雜性挑戰(zhàn),也順應(yīng)了 AI場景爆發(fā)下催生的新需求。

丁宇介紹,本次ASK升級涵蓋了多個維度,包括對組件的全托管支持、AI鏡像的秒級拉取能力,還降低了客戶的使用成本。具體來說:

1、組件全托管,零K8s運維成本

ASK新增對 CoreDNS、Metrics Server 等十多個 K8s 核心組件的托管支持,提供動態(tài)容量規(guī)劃能力,客戶無需自行部署維護,最大化降低運維復(fù)雜度。同時,ASK也新增了智能化風(fēng)險識別能力,支持自動化升級K8s版本,避免升級導(dǎo)致的應(yīng)用故障或異常風(fēng)險。

2、極致彈性,準(zhǔn)確率提升80%

ASK 提供首界首創(chuàng)基于容器鏡像緩存的 AI 大鏡像秒級拉取能力,AI 應(yīng)用啟動時間降低90%。并且提供端到端的彈性加速,面向AI/大數(shù)據(jù)工作負載容器化進行全棧優(yōu)化,通過數(shù)據(jù)集加速提升 30% 訪問性能;此外,本次 ASK 還增強了智能彈性預(yù)測 AHPA能力,相比人工配置,彈性準(zhǔn)確率提升 80%;同時新增對于 GPU 的支持。

3、普惠算力,性價比提升40%

為了給客戶提供更好的服務(wù),釋放技術(shù)紅利,讓算力更普惠,ASK新增U實例規(guī)格支持,統(tǒng)一支持多款處理器,相比上一代主售實例降價高達40%。新增SavingPlan彈性版本,面向應(yīng)用非固定波峰波谷場景,額外成本優(yōu)化10%以上。為進一步讓價格更透明,新增成本套件支持,清晰洞察彈性資源成本,讓成本治理更便捷。

以數(shù)禾科技為例,這是一家為金融機構(gòu)提供高效的智能零售金融解決方案的公司,對于模型的計算能力包括計算速度、計算結(jié)果準(zhǔn)確性、計算數(shù)據(jù)實時性等,有很高的要求。而當(dāng)前的困擾是支撐模型計算的底層應(yīng)用資源無法根據(jù)請求量來調(diào)整機器資源支持運算能力,這也是當(dāng)前業(yè)務(wù)快速發(fā)展過程中亟待解決的痛點。同時,隨著模型在線推理服務(wù)數(shù)量的增加,數(shù)禾的模型服務(wù)也變得越來越龐大、臃腫,難以管理。這種狀況不僅導(dǎo)致了資源浪費,還增加了維護和升級的成本。

為了解決這些“頑疾”,數(shù)禾科技采用阿里云 ASK 部署線上模型,無需 K8s 節(jié)點管理,根據(jù)實時流量動態(tài)使用 POD,資源成本節(jié)省60%;通過 ASK Knative 服務(wù),解決了數(shù)禾模型的灰度發(fā)布和多版本并存問題;得益于ASK 自動伸縮和縮容到 0 的優(yōu)勢,降低運行成本,大幅提升服務(wù)可用性。

“使用阿里云容器服務(wù) Knative 和 ECI 虛擬節(jié)點配合部署,保證線上模型應(yīng)對突發(fā)流量的穩(wěn)定性提升的同時,又使資源利用效率顯著提高,極大地節(jié)約了資源成本。”數(shù)禾科技 AI 實驗室 AI 平臺負責(zé)人周偉鵬表示。

目前,ASK 已加入阿里云飛天免費試用計劃,為開發(fā)者、企業(yè)提供一定額度的免費試用資源。3分鐘就可以創(chuàng)建Kubernetes集群,開啟容器彈性之旅。

審核編輯黃宇

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • AI
    AI
    +關(guān)注

    關(guān)注

    88

    文章

    35041

    瀏覽量

    279073
  • 阿里云
    +關(guān)注

    關(guān)注

    3

    文章

    1009

    瀏覽量

    44118
  • serverless
    +關(guān)注

    關(guān)注

    0

    文章

    65

    瀏覽量

    4715
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點推薦

    HarmonyOS5服務(wù)技術(shù)分享--Serverless抽獎模板部署

    提前準(zhǔn)備一個二域名(后面托管要用) 二、部署模板四部曲 1?? ??模板選擇?? 進入AGC控制臺 → 開發(fā) → Serverless模板 在模板市場找到\"抽獎活動模板\&quo
    發(fā)表于 05-22 20:25

    HarmonyOS5服務(wù)技術(shù)分享--Serverless搭建抽獎

    /function.js文件中的函數(shù)名(對應(yīng)之前創(chuàng)建的函數(shù)) 壓縮dist文件夾內(nèi)容為dist.zip(注意?要選中文件后壓縮,別直接壓縮文件夾) 2?? 托管配置: 進入
    發(fā)表于 05-22 20:20

    科技獲亞馬遜科技生成式AI能力認證

    近日,管理服務(wù)提供商聚科技成功獲得亞馬遜科技生成式AI能力認證。此次認證標(biāo)志著聚
    的頭像 發(fā)表于 02-19 10:33 ?477次閱讀

    RAKsmart加入i2Coalition新成立的安全托管聯(lián)盟SHA

    2025年2月10日,互聯(lián)網(wǎng)基礎(chǔ)設(shè)施聯(lián)盟(i2Coalition)正式啟動了安全托管聯(lián)盟(Secure Hosting Alliance,簡稱SHA)。這一新聯(lián)盟由23家托管服務(wù)提供商及相關(guān)公司組成
    的頭像 發(fā)表于 02-17 11:54 ?273次閱讀

    科技榮獲亞馬遜科技生成式AI能力認證

    助力企業(yè)加速生成式AI應(yīng)用落地 北京2025年2月14日?/美通社/ -- 管理服務(wù)提供商聚科技獲得亞馬遜科技生成式
    的頭像 發(fā)表于 02-14 16:07 ?389次閱讀

    巨人網(wǎng)絡(luò)與阿里深化AI合作

    基礎(chǔ),巨人網(wǎng)絡(luò)與阿里此次深化合作,旨在探索AI在游戲領(lǐng)域的更多可能性。巨人網(wǎng)絡(luò)表示,公司正在積極研究AI的通用泛化能力、多模態(tài)內(nèi)容理解與生
    的頭像 發(fā)表于 02-14 14:06 ?562次閱讀

    科技榮獲亞馬遜科技生成式AI能力認證 助力企業(yè)加速生成式AI應(yīng)用落地

    北京 ——2025 年 2 月 14 日 管理服務(wù)提供商聚科技獲得亞馬遜科技生成式AI能力
    發(fā)表于 02-14 13:41 ?149次閱讀

    MLOps托管服務(wù)怎么樣

    MLOps托管服務(wù)以其卓越的性能和顯著的優(yōu)勢,成為企業(yè)加速機器學(xué)習(xí)應(yīng)用落地的理想選擇。以下,是對MLOps托管服務(wù)優(yōu)勢的介紹,由AI部落小編
    的頭像 發(fā)表于 01-22 10:21 ?317次閱讀

    阿里升級通義靈碼AI程序員,全面上線

    近日,阿里宣布其備受矚目的通義靈碼AI程序員已正式全面上線,為開發(fā)者帶來更為強大和便捷的編程輔助工具。 此次上線的通義靈碼AI程序員,在功
    的頭像 發(fā)表于 01-09 11:16 ?703次閱讀

    Amazon Bedrock全新升級,新增業(yè)界領(lǐng)先的AI防護、新智能體功能和模型定制能力

    通社/ -- 亞馬遜科技在2024 re:Invent全球大會上,宣布推出Amazon Bedrock的三項新功能。Amazon Bedrock是一項完全托管服務(wù),借助高性能基礎(chǔ)模型,構(gòu)建和擴展
    的頭像 發(fā)表于 12-12 15:56 ?439次閱讀

    阿里代理有哪些?

    的旗艦代理商。 阿里代理商級別概況 阿里代理商分為以下幾種級別: 標(biāo)準(zhǔn)代理商:基礎(chǔ)級別的
    的頭像 發(fā)表于 12-06 15:44 ?841次閱讀

    螞蟻數(shù)科以AI全面升級產(chǎn)品

    螞蟻數(shù)科近期宣布了一項重大戰(zhàn)略決策,即以AI技術(shù)全面升級服務(wù)產(chǎn)品矩陣,并推出“四新”戰(zhàn)略。螞蟻數(shù)科副總裁余濱在公開場合表示,公司將從底層
    的頭像 發(fā)表于 10-18 17:20 ?968次閱讀

    容器服務(wù)引擎是什么?如何使用

    容器服務(wù)引擎(CloudContainerEngine,簡稱CCE),是一個企業(yè)的Kubernetes集群托管
    的頭像 發(fā)表于 09-30 10:17 ?515次閱讀

    華為全域 Serverless 8 月更新盤點

    【摘要】 近年來,華為持續(xù)構(gòu)筑全域 Serverless 服務(wù),推出了一系列競爭力領(lǐng)先的 Serverless 產(chǎn)品,包括函數(shù)工作流 F
    的頭像 發(fā)表于 09-27 00:06 ?1173次閱讀
    華為<b class='flag-5'>云</b>全域 <b class='flag-5'>Serverless</b> 8 月更新盤點

    阿里推出首個域名AI大模型應(yīng)用

    阿里近日宣布其域名產(chǎn)品服務(wù)全面完成AI升級,并成功推出首個基于通義大模型的域名
    的頭像 發(fā)表于 08-09 14:55 ?828次閱讀