光電混合技術(shù)是催生下一個(gè)大模型發(fā)展的底層技術(shù)之一。

——沈亦晨博士

我們認(rèn)為需要從物理底層機(jī)制入手，尋求一種不同的解決方案來突破現(xiàn)有的（算力）限制。這就是我們提出光子計(jì)算概念的原因。

——孟懷宇博士

2023年7月6日至8日，世界人工智能大會(huì)（WAIC）在上海召開。曦智科技創(chuàng)始人、首席執(zhí)行官沈亦晨博士受邀出席“從‘端’到‘云’，勇攀‘芯’高峰”——WAIC芯片主題論壇，在圓桌論壇環(huán)節(jié)以“圍繞新應(yīng)用，打造新生態(tài)”為主題，分享了曦智科技的見解和實(shí)踐。曦智科技聯(lián)合創(chuàng)始人、首席技術(shù)官孟懷宇博士則受邀出席WAIC AI開發(fā)者領(lǐng)袖論壇，以2022年WAIC云帆獎(jiǎng)得主身份參與圓桌對(duì)話，就大模型時(shí)代范式轉(zhuǎn)變中的機(jī)遇和挑戰(zhàn)分享了他的洞見。

隨著ChatGPT橫空出世，以大模型為代表的新應(yīng)用不斷涌現(xiàn)，對(duì)AI芯片以及產(chǎn)業(yè)鏈產(chǎn)生了諸多影響。

在WAIC 芯片主題論壇上，沈亦晨博士就此發(fā)表了他的觀點(diǎn)。他認(rèn)為，產(chǎn)業(yè)應(yīng)用會(huì)驅(qū)動(dòng)底層技術(shù)的創(chuàng)新，在大模型出現(xiàn)之前，AI的發(fā)展已然推動(dòng)了許多底層技術(shù)的發(fā)展。然而，從傳統(tǒng)計(jì)算到大模型等AI計(jì)算產(chǎn)生，該級(jí)別的AI對(duì)算力、存儲(chǔ)、帶寬的需求激增，對(duì)現(xiàn)有的數(shù)據(jù)中心和邊緣設(shè)備提出了更高挑戰(zhàn)。

沈亦晨博士說：“從曦智科技的角度來看，光電混合技術(shù)是催生下一個(gè)大模型發(fā)展的底層技術(shù)之一，光子技術(shù)與電混合在一起形成新的異構(gòu)計(jì)算方式，可以提供更高效的算力解決方案。一方面，光電混合技術(shù)具備高帶寬、低功耗的特點(diǎn)，讓更多的計(jì)算節(jié)點(diǎn)之間高效傳輸，完成更大規(guī)模的計(jì)算；另一方面，光電混合技術(shù)也將改變產(chǎn)業(yè)鏈和供應(yīng)鏈，如何讓不同廠商、不同技術(shù)共享一種語言，遵循一個(gè)通用協(xié)議，將是提升算力必須探討的重要議題?！?/p>

面對(duì)大模型熱潮，行業(yè)該如何通過應(yīng)用創(chuàng)新去適應(yīng)當(dāng)前的市場(chǎng)情況，同樣是各界關(guān)注的焦點(diǎn)問題之一。

在這一方面，曦智科技基于大規(guī)模光電集成技術(shù)的計(jì)算新范式，發(fā)展出縱向單節(jié)點(diǎn)算力提升與橫向多節(jié)點(diǎn)算力提升的解決方案，形成光子矩陣計(jì)算（oMAC）、片上光網(wǎng)絡(luò)（oNOC）、片間光網(wǎng)絡(luò)（oNET）三大核心技術(shù)。同時(shí)，曦智科技還成立了曦智研究院，并且已對(duì)外發(fā)布《大規(guī)模光電集成賦能智能算力網(wǎng)絡(luò)白皮書》?！捌诖軌蚺c大家有更多合作，共同建立光電混合計(jì)算的大生態(tài)，助推技術(shù)發(fā)展?！鄙蛞喑坎┦空f。

曦智科技三大核心技術(shù)

在WAIC AI開發(fā)者領(lǐng)袖論壇上，針對(duì)“大模型熱”，孟懷宇博士表示，隨著摩爾定律的放緩，算力提升已遭遇瓶頸。在這樣的背景下，從業(yè)者更需要思考能做些什么，該如何應(yīng)對(duì)。

“我們認(rèn)為需要從物理底層機(jī)制入手，尋求一種不同的解決方案來突破現(xiàn)有的限制。這就是我們提出光子計(jì)算概念的原因。光信號(hào)也是電磁波，但其頻率約為200THz，因此幾乎沒有串?dāng)_，在計(jì)算過程中幾乎不受頻率影響，也沒有歐姆發(fā)熱等問題。當(dāng)然，光子計(jì)算也存在一些局限性，但只有通過改變，才有可能突破現(xiàn)有的限制。”孟懷宇博士說。

孟懷宇博士在AI開發(fā)者論壇圓桌會(huì)話環(huán)節(jié)發(fā)表他對(duì)于大模型熱潮的看法

在當(dāng)天的論壇上，其他與會(huì)嘉賓指出，當(dāng)前的深度計(jì)算變慢，變成寬度計(jì)算。對(duì)此，孟懷宇博士進(jìn)一步闡釋說：“這是因?yàn)閺倪壿嬌现v，從電芯片的層面來看，目前，單個(gè)芯片計(jì)算能力的提升無法跟上模型規(guī)模的增長(zhǎng)速度，所以必須使用越來越多的計(jì)算資源。然而，我們知道對(duì)于電來說，并行計(jì)算的規(guī)模是有限的，1加1小于2，2加2小于4，4加4遠(yuǎn)遠(yuǎn)小于8?！?/p>

在有限的計(jì)算資源情況下，又該如何更好地利用資源，使計(jì)算能力盡量接近線性增長(zhǎng)？孟懷宇博士給出了他的解決方案：“這就需要更好地優(yōu)化整個(gè)互連狀態(tài)。從理論上講，如果在一個(gè)大規(guī)模計(jì)算中，比如萬卡的情況下，每個(gè)芯片都能在任何時(shí)刻立即獲得所需的數(shù)據(jù)，那么我們就可以實(shí)現(xiàn)線性增長(zhǎng)。然而，目前的互連架構(gòu)還無法達(dá)到這個(gè)水平，我們需要盡量通過技術(shù)手段接近這個(gè)目標(biāo)，光互連具有高帶寬、低延遲、低功耗等特性，同時(shí)對(duì)于傳播距離不敏感，我們認(rèn)為，光可以成為一種更好的解決方案，我認(rèn)為這一點(diǎn)可能比GPU本身的性能提升更為關(guān)鍵。”

與此同時(shí)，目前已經(jīng)投入商用的，GPU之間的大帶寬、低延遲互連解決方案依然數(shù)量有限。“世界應(yīng)該是多樣的，解決方案也應(yīng)該是多樣的，曦智科技也希望我們的光電混合計(jì)算成為其中的一個(gè)解決方案?！泵蠎延畈┦吭诜窒頃r(shí)，也表達(dá)了他的期望。