近日,2023中國算力大會(huì)在寧夏銀川舉行,沐曦集成電路(上海)有限公司(下稱“沐曦”)聯(lián)合創(chuàng)始人、CTO兼首席硬件架構(gòu)師彭莉受邀出席由中國信息通信研究院、中國互聯(lián)網(wǎng)協(xié)會(huì)聯(lián)合舉辦的智能計(jì)算論壇,并擔(dān)任演講嘉賓,探討后GPT時(shí)代算力需求激增帶來的挑戰(zhàn)以及GPU如何突破算力供需瓶頸、推動(dòng)人工智能產(chǎn)業(yè)普惠化發(fā)展。
沐曦聯(lián)合創(chuàng)始人、CTO兼首席硬件架構(gòu)師彭莉
發(fā)表主題演講
在題為“后GPT時(shí)代的算力需求”的演講中,彭莉預(yù)測(cè)大模型商業(yè)模式將分為通用計(jì)算市場(chǎng)和專用定制化市場(chǎng)兩大類:在通用計(jì)算市場(chǎng),大語言模型將終結(jié)多數(shù)NLP任務(wù),NLP技術(shù)水平被強(qiáng)行拉平,通用大模型或被大廠“壟斷”;而在專用定制化市場(chǎng),開源大模型將呈現(xiàn)百花齊放的發(fā)展態(tài)勢(shì),可針對(duì)私有數(shù)據(jù)、敏感數(shù)據(jù)進(jìn)行快速定制和領(lǐng)域?qū)R,大模型開發(fā)和部署能力將趨于普及化。
彭莉指出,區(qū)別于傳統(tǒng)AI,生成式AI技術(shù)可以借助接入類ChatGPT應(yīng)用發(fā)揮顯著的技術(shù)優(yōu)勢(shì),為大語言模型的開發(fā)降本增效,同時(shí)也對(duì)算力提出更高和更迫切的要求。由于大模型訓(xùn)練的一次性成本被大規(guī)模推理攤薄,大模型盈利的一大難點(diǎn)是降低推理成本。沐曦致力于打造高效通用的GPU芯片及軟硬件一體的生態(tài)解決方案,通過GPU軟件生態(tài)優(yōu)勢(shì)、硬件架構(gòu)優(yōu)勢(shì)、先進(jìn)封裝等方面全面提升GPU算力,降低大模型訓(xùn)練和推理的算力成本,在產(chǎn)品路線和生態(tài)戰(zhàn)略上均可滿足大模型對(duì)算力基礎(chǔ)設(shè)施的大規(guī)模需求,為推進(jìn)智能產(chǎn)業(yè)可持續(xù)發(fā)展打造堅(jiān)實(shí)的算力底座。
審核編輯:彭菁
-
集成電路
+關(guān)注
關(guān)注
5415文章
11865瀏覽量
366311 -
gpu
+關(guān)注
關(guān)注
28文章
4882瀏覽量
130408 -
硬件
+關(guān)注
關(guān)注
11文章
3444瀏覽量
67038 -
沐曦
+關(guān)注
關(guān)注
0文章
31瀏覽量
1337 -
大模型
+關(guān)注
關(guān)注
2文章
2941瀏覽量
3685
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
搭建算力中心,從了解的GPU 特性開始

DeepSeek推動(dòng)AI算力需求:800G光模塊的關(guān)鍵作用
云 GPU 加速計(jì)算:突破傳統(tǒng)算力瓶頸的利刃
中科曙光助力浙江精準(zhǔn)醫(yī)療實(shí)驗(yàn)室突破算力瓶頸
GPU算力租用平臺(tái)有什么好處

算智算中心的算力如何衡量?

【「算力芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析」閱讀體驗(yàn)】--了解算力芯片GPU
GPU算力開發(fā)平臺(tái)是什么
【一文看懂】大白話解釋“GPU與GPU算力”

GPU算力租用平臺(tái)怎么樣
GPU算力租用平臺(tái)是什么
【「算力芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析」閱讀體驗(yàn)】--全書概覽
名單公布!【書籍評(píng)測(cè)活動(dòng)NO.43】 算力芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析
算力服務(wù)器為什么選擇GPU

評(píng)論