一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

芯事訪談 | 阿里云張獻濤:算力需求暴增,底層創(chuàng)新為云計算“續(xù)航”

平頭哥半導體 ? 來源:未知 ? 2023-08-08 14:05 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

以技術驅動創(chuàng)新,以芯力量擁抱數智未來?!缎臼隆吩L談對話科技創(chuàng)新者、引領者,探索創(chuàng)芯之路,共建硬核算力,賦能科技創(chuàng)新。

策劃|平頭哥半導體

媒體合作|eefocus與非網

本期《芯事》人物

張獻濤

阿里云智能基礎產品部副總裁

阿里云彈性計算產品線總經理

十多年前,當業(yè)界還在探討“云計算將給IT產業(yè)格局帶來什么變化”時,也許并沒有想到云計算會從當初的抽象構想成為全球產業(yè)變革的必由之路,并成長為重要的經濟引擎。

時至今日,云計算推動的產業(yè)、商業(yè)和社會變革,已經匯聚成承前啟后的關鍵力量,成長為數字經濟的核心生產力,而面向ChatGPT等AI應用掀起的新革命,云計算的創(chuàng)新活力還將持續(xù)釋放,芯片作為重要的算力支撐也將發(fā)揮更大的價值。

本期《芯事》訪談,與非網采訪到里云智能基礎產品部副總裁、阿里云彈性計算產品線總經理張獻濤。

三步見證中國云計算發(fā)展

張獻濤在回顧起云計算發(fā)展的早期階段時調侃,“大約在2014年左右,當時還處于傳統(tǒng)算力向云計算的轉移過程中,用戶多是中小站長為代表的個人開發(fā)者,負載可能就是一些中小企業(yè)的網站,不會有太多客戶關注高可用性、高性能等指標?!?/p>

時間來到2015年,新一輪移動互聯(lián)網爆發(fā)了,以互聯(lián)網公司為代表的技術型企業(yè),逐步推動傳統(tǒng)IT系統(tǒng)向基于云的IT系統(tǒng)轉移?!霸朴嬎愕牡诙l(fā)展階段拉開了大幕,對IaaS、SaaS高穩(wěn)定性、高性能的需求爆發(fā)了?!睆埆I濤說道,“也就是在這個時間節(jié)點,阿里云開始了戰(zhàn)略轉型,從傳統(tǒng)的服務中小站長用戶,面向移動互聯(lián)網場景的大信息流、高實時性、高性能、高并發(fā)的場景做出調整。正因如此,我們也承接了移動互聯(lián)網發(fā)展的一波紅利,迎來了中國云計算市場的爆發(fā)式增長?!?/p>

2020年以后,云計算進入了第三發(fā)展階段。張獻濤表示,“云計算開始縱深發(fā)展,上云的趨勢從消費互聯(lián)網向產業(yè)互聯(lián)網轉移,以產業(yè)客戶為代表的傳統(tǒng)企業(yè)上云的訴求越來越明顯?!?/p>

這對云計算其實提出了較大的挑戰(zhàn),因為需要保障客戶業(yè)務在連續(xù)、不間斷的情況下,能夠遷移到云的架構。也正是在這個關鍵節(jié)點,阿里云開始了包括計算架構、處理器、存儲等核心技術的創(chuàng)新變革。

軟硬協(xié)同設計應“云”而生

在傳統(tǒng)IT時代,軟件和硬件之間的依存程度并不高,可以分離演進,并行發(fā)展。但是進入云計算時代,軟硬件分離迭代的模式逐步顯現出局限性。應用變得越來越復雜,算法、軟件和硬件的隔閡,已經無法滿足在超大規(guī)模計算場景下提升IT計算效率、降低計算成本的訴求。如何最大化發(fā)揮“云”的價值,實現應用快速上線且高效運行成為發(fā)展的關鍵。

“其實這也提供了一個機會,如果你對硬件、系統(tǒng)軟件、中間件等都掌握的話,你就可以很好地進行軟硬件協(xié)同設計,這是云計算時代一種新的技術紅利。”張獻濤表示,“我們當時就在深入思考,既然硬件系統(tǒng)、軟件系統(tǒng)都是自研,下一步我們如何從軟件定義硬件、定義芯片的視角,來做軟硬件協(xié)同的設計?”

當時,傳統(tǒng)的虛擬化技術應用到云計算過程中,其實存在非常多問題,比如算力損耗等,而這通常意味著計算成本可能會隨之增加。張獻濤談到,“所以在當時的時間點上,我們首先需要通過軟硬件協(xié)同設計,解決傳統(tǒng)虛擬化技術帶來的這些問題。不過這一挑戰(zhàn)非常大,因為現有芯片無法滿足這些需求,我們幾乎評估了業(yè)界的所有芯片后,決定重新設計芯片、設計硬件、設計服務器的計算架構,并且對整個系統(tǒng)軟件棧進行重構,這是一個浩大的工程。”

后來的事實證明,阿里云當時的這一決定極具前瞻性,使它既享受了軟硬件協(xié)同設計所實現的技術紅利,同時也給云計算客戶帶來更多收益,比如更低的成本、更優(yōu)質的算力服務等。根據IDC數據,阿里云數年來穩(wěn)居公有云市場排名第一的位置,并領跑金融云、視頻云等領域。

從“芯”出發(fā),為云而生

近年來,跨界造芯成為科技界的一大趨勢,不論是云計算大廠、AI算法公司或是車企,對于芯片的關注度越來越高。在這些跨入芯片圈的企業(yè)中,阿里巴巴旗下的平頭哥可以說是國內起步最早的企業(yè)之一,一個核心的研發(fā)方向就是數據中心芯片。

成立于2018年的平頭哥,正處于云計算的拐點之上。

還記得2017年左右,阿里云的廣告語“上云就上阿里云”,雄踞國內各大機場。短短一句話,傳遞了云計算當時正在進行的變革和創(chuàng)新——它不再是互聯(lián)網企業(yè)的特有應用,而是逐漸蔓延到傳統(tǒng)領域,向千行百業(yè)的企業(yè)發(fā)出“上云”邀請。一個趨勢已經顯現——云計算將擴展到大數據、AI、物聯(lián)網等領域,共同成為傳統(tǒng)企業(yè)進行數字化轉型、我國發(fā)展數字經濟必不可少的基礎支撐。

而這一切,都在倒逼底層技術加速升級。對于當時的云計算巨頭來說,頭等大事就是如何滿足企業(yè)多種多樣的差異化需求?如何提供更具性價比的云服務?一方面是看得見的巨大藍海,一方面是對性能效率最大化的迫切需求——在這些推動因素下,自研芯片就成了一種自然而然的選擇。

倚天710是阿里巴巴第一顆為云而生的CPU芯片,由平頭哥半導體自研,設計核心在于適配阿里云大規(guī)模、多線程、高并發(fā)的業(yè)務特點。倚天710采用Armv9架構,擁有128個核心、主頻2.75GHz。通過將芯片設計與云場景的獨特需求相結合,倚天710最終實現了性能和能效比的雙重突破:性能超過當時的業(yè)界標桿20%,能效比提升50%以上。倚天710發(fā)布后,2021年天貓“雙11”核心交易系統(tǒng)平滑遷移至倚天實例,算力性價比提30%。

隨著部署規(guī)模的不斷擴大,自研芯片的種種優(yōu)勢被不斷放大,不僅有助于打造穩(wěn)定、響應快、能快速擴展的計算基礎設施,更便于云廠商在每個業(yè)務流程中做到效率與成本的最優(yōu)化,同時,還可以做到硬件和軟件并行開發(fā),這意味著能夠跨越傳統(tǒng)設計界限、創(chuàng)新速度更快。

“我們發(fā)現一些客戶對倚天芯片的擁抱程度其實是比較高的,尤其是互聯(lián)網客戶,因為不需要他們進行太多的業(yè)務架構或代碼層面的改動,就能獲得更強的性能優(yōu)勢。此外,阿里云倚天實例在視頻編解碼業(yè)務場景中,性價比提升超過80%,在密集型計算業(yè)務場景中,性價比提升50%以上?!睆埆I濤表示,“這樣的客戶越來越多,也更加堅定了我們與平頭哥半導體一起在自研芯片這條路上繼續(xù)往前走的決心。”

阿里云倚天ECS的用戶中,北京科學智能研究院在使用密度泛函數理論軟件時,性價比提升70%;匯量科技廣告推理業(yè)務使用倚天710云實例,性能和網絡帶寬雙雙提升,性價比提升40% 以上。

談及對云原生系統(tǒng)中未來芯片的構想,張獻濤表示,“我們還是希望能夠加入更多的云原生元素,與平頭哥半導體繼續(xù)緊密合作。此外,還有對新的總線比如UCIe、CXL的支持,從而能夠和CPU的計算架構進行更為深度的融合,更好地發(fā)揮軟件的協(xié)同效應。”

AI時代,軟硬件融合是更優(yōu)算力的路徑

在生成式AI掀起的巨大聲浪中,大模型對計算能力提出更高要求的同時,也給云計算帶來了新的應用場景。隨著大模型應用逐漸深入到千行百業(yè),未來,每家企業(yè)都可以是“AI大模型企業(yè)”。大模型時代需要什么樣的云服務?如何進一步降低用戶上云門檻?

顯然,成本首先是一筆要算的賬,現階段大模型的算力成本非常高昂。對此,張獻濤表示,還是需要提升算力效率,通過軟硬件的充分融合,通過自定義的芯片去加速算力提升,比如和平頭哥進行更加深度的合作,能夠讓這個領域所需要的強大AI算力,通過軟硬件的深度協(xié)同變得更高效、成本更低。

“無論是在初代智能時代,還是這些年AI的發(fā)展,其實都需要深度的軟硬件融合技術帶來提升。而軟硬件融合的本質更多還是軟件定義硬件的一種新型模式,通過這種模式,軟件和硬件之間的協(xié)同程度更高了,能夠讓軟件的效率充分發(fā)揮出來,最終可以把整體計算效率提升起來”,張獻濤談到。

面臨AI浪潮的來襲,云計算不僅需要通過算力普惠推動企業(yè)的數字化轉型,同時,也肩負著助力AI更普及、為千行百業(yè)智能化升級提供核心動力的重任。在云計算和AI深度融合驅動的新一輪變革中,云計算和AI大模型將共同成為新時代的基礎設施,而芯片將提供必不可少的底層支撐,讓算力更普惠、讓 AI 更普及。一個由算力撬動的智能時代---大幕已經拉開。


聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 平頭哥
    +關注

    關注

    0

    文章

    73

    瀏覽量

    9586

原文標題:芯事訪談 | 阿里云張獻濤:算力需求暴增,底層創(chuàng)新為云計算“續(xù)航”

文章出處:【微信號:gh_65bdec3412bd,微信公眾號:平頭哥半導體】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    智能最具潛力的行業(yè)領域

    ?; 數據治理與聯(lián)合創(chuàng)新?:民生銀行與華為、阿里等共建AI實驗室,通過“數據湖+模型體系”提升服務精準度?;
    的頭像 發(fā)表于 04-11 08:20 ?383次閱讀
    智能<b class='flag-5'>算</b><b class='flag-5'>力</b>最具潛力的行業(yè)領域

    阿里代理優(yōu)惠上指南——火傘如何助力企業(yè)降本增效

    成本獲得更適合自身需求服務?如何避免因技術門檻導致的資源浪費?這正是專業(yè)代理商的價值所在。作為國內領先的阿里、騰訊
    的頭像 發(fā)表于 02-19 15:48 ?600次閱讀

    玄武智平臺智能計算保駕護航

    玄武智平臺是基于昇騰原生打造的智平臺,它支持昇騰全系列硬件的納管、調度和AI模型支持,可實現高效、精細的集群運營管理,旨在打破模型
    的頭像 發(fā)表于 02-18 10:06 ?800次閱讀
    玄武智<b class='flag-5'>算</b><b class='flag-5'>云</b>平臺<b class='flag-5'>為</b>智能<b class='flag-5'>計算</b>保駕護航

    GPU 加速計算:突破傳統(tǒng)瓶頸的利刃

    在數字化時代,數據呈爆炸式增長,傳統(tǒng)的已難以滿足復雜計算任務的需求。無論是人工智能的深度學習、大數據的分析處理,還是科學研究中的模擬計算
    的頭像 發(fā)表于 02-17 10:36 ?292次閱讀

    autodl在.pt轉換onnx文件時正常,但onnx轉.kmodel文件時報錯,為什么?

    用的是autodl,在.pt轉換onnx文件時正常,但onnx轉.kmodel文件時報錯
    發(fā)表于 02-08 06:51

    阿里官網電腦版,阿里電腦版的下載使用教程

    ? ? 在計算蓬勃發(fā)展的時代,阿里作為行業(yè)的領軍者,旗下的阿里官網電腦版
    的頭像 發(fā)表于 01-23 14:49 ?1171次閱讀
    <b class='flag-5'>阿里</b><b class='flag-5'>云</b>官網電腦版,<b class='flag-5'>阿里</b><b class='flag-5'>云</b>電腦版的下載使用教程

    科技報到:要更要“利”,“精裝”觸發(fā)大模型產業(yè)新變局?

    科技報到:要更要“利”,“精裝”觸發(fā)大模型產業(yè)新變局?
    的頭像 發(fā)表于 01-16 10:24 ?467次閱讀

    華為征文 計算新紀元:Flexus 服務器 X 實例引領柔性時代,部署 Zabbix 運維監(jiān)控

    Flexus 服務器 X 實例引領柔性時代 引言 隨著計算技術的飛速發(fā)展,企業(yè)對于
    的頭像 發(fā)表于 01-02 11:57 ?331次閱讀
    華為<b class='flag-5'>云</b>征文 <b class='flag-5'>云</b><b class='flag-5'>計算</b>新紀元:Flexus <b class='flag-5'>云</b>服務器 X 實例引領柔性<b class='flag-5'>算</b><b class='flag-5'>力</b>時代,部署 Zabbix 運維監(jiān)控

    阿里成為總臺春晚計算AI合作伙伴

    近日,中央廣播電視總臺宣布了一項重要合作,正式將阿里確定為總臺春晚計算AI獨家合作伙伴。這一合作標志著總臺春晚在技術創(chuàng)新和數字化轉型方面
    的頭像 發(fā)表于 12-27 10:32 ?503次閱讀

    計算 開啟貴州人工智能服務新篇章

    伴隨數字化轉型加速及 “人工智能 +” 行動規(guī)劃的推進,已成企業(yè)創(chuàng)新與業(yè)務增長的關鍵驅動力,其市場需求
    的頭像 發(fā)表于 12-27 00:37 ?646次閱讀
    <b class='flag-5'>算</b>家<b class='flag-5'>計算</b> 開啟貴州人工智能<b class='flag-5'>算</b><b class='flag-5'>力</b>服務新篇章

    九章極DataCanvas包正式發(fā)布

    在數字化轉型的浪潮中,九章極DataCanvas再次引領創(chuàng)新,正式推出全新產品——“
    的頭像 發(fā)表于 09-26 14:58 ?682次閱讀

    數字轉型得力伙伴:華為 Flexus X 實例打造計算應用新標桿

    在數字化轉型的浪潮中,計算已成為企業(yè)加速創(chuàng)新和降低運營成本的加速器。計算服務也正從粗放的彈性
    的頭像 發(fā)表于 08-21 17:59 ?541次閱讀
    數字轉型得力伙伴:華為<b class='flag-5'>云</b> Flexus X 實例打造<b class='flag-5'>云</b><b class='flag-5'>計算</b>應用新標桿

    如何理解計算

    和硬件資源。 在數字化時代,互聯(lián)網已經成為基礎設施。計算使得數據中心能夠像一臺計算機一樣去工作。通過互聯(lián)網將以按需使用、按量付費的形式
    發(fā)表于 08-16 17:02

    IaaS+on+DPU(IoD)+下一代高性能底座技術白皮書

    、VMware、Palo Alto 等公司紛紛推出相關解決方案。這些方案背后共同的本質思想是:將計算的 IaaS 層組件從服務器側卸載后圍繞 DPU 構筑高性能底座,與 AWS、
    發(fā)表于 07-24 15:32

    阿里設備的物模型數據里面始終沒有值是為什么?

    如上圖,不知道講清楚沒有。 IG502自定義TOPIC 上發(fā)到阿里沒問題。采用阿里物模型的格式來上發(fā)就不行。請大佬指教!
    發(fā)表于 07-24 07:49