近日，elexcon 2023深圳國際電子展在深圳會展中心圓滿落幕。沐曦集成電路（上海）有限公司（下稱“沐曦”）攜自主研發(fā)的全棧GPU芯片產(chǎn)品及解決方案亮相本次大會，沐曦AI解決方案總監(jiān)虞新陽應(yīng)邀出席并發(fā)表主題演講。本次大會以“智能、創(chuàng)新、開源”為主題，匯聚近千家國內(nèi)外優(yōu)質(zhì)企業(yè)和專家，涵蓋從產(chǎn)品設(shè)計到應(yīng)用落地的上下游產(chǎn)業(yè)，展示全球產(chǎn)業(yè)動態(tài)及未來技術(shù)趨勢。

沐曦AI解決方案總監(jiān)虞新陽發(fā)表主題演講

在GPU技術(shù)與生態(tài)專題論壇中，沐曦AI解決方案總監(jiān)虞新陽發(fā)表了題為“智能時代的GPU算力構(gòu)建”的主題演講。虞新陽表示，隨著ChatGPT這一標(biāo)志性產(chǎn)品的發(fā)布和發(fā)酵，人類邁向智能化時代。信息化革命使人類能夠在數(shù)字世界中勞動并創(chuàng)造價值，智能化革命則能夠?qū)⑷吮旧韽母鞣N勞動創(chuàng)造中解放出來。以大模型為例，這一在特定應(yīng)用場景具備超越人類能力的AI工具將徹底重構(gòu)人類社會，為人類創(chuàng)造巨大的價值。從整體上來說，大模型越大效果越好，ChatGPT以Transformer結(jié)構(gòu)為主干，包含了1750億的參數(shù)，模型訓(xùn)練及推理都需要很大的算力系統(tǒng)做支撐。近幾年來，語言大模型主體結(jié)構(gòu)從Bert到T5轉(zhuǎn)換到了GPT，預(yù)計接下來還會持續(xù)進化；語音圖像的AIGC主要包含GAN、VAE、Flow和最近火熱的Diffusion這4種生成方式，接下來也將繼續(xù)迭代并相互融合。在智能化過程中，模型和算力展現(xiàn)了雙螺旋協(xié)同和促進關(guān)系，大模型依賴海量的GPU算力進行迭代，另一方面GPU算力架構(gòu)本身也需要隨著模型而更新。沐曦千億參數(shù)AI大模型訓(xùn)練及通用計算GPU曦云C500一方面包含了很強的計算性能和存儲帶寬，另一方面基于MetaXLink 2.0有很強的卡間通信能力。在芯片基礎(chǔ)上，沐曦構(gòu)建了強大的MXMACA軟件棧，依托通用計算架構(gòu)、先進的算子庫和編譯器能力，能夠原生支持PyTorch、TensorFlow以及國內(nèi)的飛槳、MindSpore等框架。曦云C500芯片回片短短2個多月內(nèi)，已能流暢地運行Stable Diffusion，LLaMA 65B，LLaMA2 70B以及國內(nèi)ChatGLM等模型。

在GPU應(yīng)用圓桌論壇中，虞新陽與來自清華大學(xué)軟件學(xué)院、中國科學(xué)院大學(xué)、清華大學(xué)集成電路學(xué)院、武漢理工大學(xué)、上海交通大學(xué)電子信息與電氣工程學(xué)院、華南理工大學(xué)的專家學(xué)者一同探討GPU算力芯片如何支撐國內(nèi)大模型應(yīng)用落地。虞新陽表示，國內(nèi)上層應(yīng)用市場已走在世界前列，國產(chǎn)GPU廠商要在布局及建立底層能力的同時，充分擁抱結(jié)合上層應(yīng)用的發(fā)展并進行持續(xù)的迭代創(chuàng)新。沐曦的產(chǎn)品和解決方案能夠全面兼容主流GPU生態(tài)，最小化存量用戶遷移成本，為客戶構(gòu)建軟硬件一體的全面生態(tài)解決方案。國產(chǎn)GPU生態(tài)的建設(shè)不僅需要本土GPU廠商的努力，還需要軟件解決方案商等上下游合作伙伴攜手共進。

審核編輯：彭菁