在軟件和硅中復(fù)制人腦是人工智能(AI)研究的長期目標(biāo)。雖然神經(jīng)形態(tài)芯片在能夠同時(shí)運(yùn)行多個(gè)計(jì)算方面取得了重大進(jìn)展,并且既能計(jì)算也能存儲(chǔ)數(shù)據(jù),但它們還遠(yuǎn)未達(dá)到模擬大腦的能源效率。
人工智能計(jì)算是非常耗能的,但所消耗的能量大部分不是計(jì)算本身。能量密集型部分是在AI芯片內(nèi)的內(nèi)存和計(jì)算單元之間移動(dòng)數(shù)據(jù)。為了解決這個(gè)問題,一組研究人員開發(fā)了一種新的內(nèi)存計(jì)算(CIM)芯片原型,消除了這種分離的需要。他們?cè)?月17日發(fā)表在《自然》雜志上的論文中聲稱,其原型展示了現(xiàn)有人工智能平臺(tái)效率的兩倍。之所以稱為NeuRRAM,是因?yàn)樗褂靡环N稱為電阻式隨機(jī)存取存儲(chǔ)器(RRAM)的RAM,這種48核RRAM-CIM硬件支持多種神經(jīng)網(wǎng)絡(luò)模型和架構(gòu)。
該論文的第一作者、斯坦福大學(xué)研究員Weier Wan表示,與傳統(tǒng)內(nèi)存相比,RRAM有很多優(yōu)點(diǎn)。其中之一是在同一硅片區(qū)域內(nèi)具有更高的容量,從而可以實(shí)現(xiàn)更大的AI模型。它也是非易失性的,意味著沒有電源泄漏。他補(bǔ)充說,這使得基于RRAM的芯片成為邊緣工作負(fù)載的理想選擇。研究人員設(shè)想,NeuRRAM芯片可以在低功耗的邊緣設(shè)備上有效地處理一系列復(fù)雜的人工智能應(yīng)用,而不依賴于與云的網(wǎng)絡(luò)連接。
為了設(shè)計(jì)NeuRRAM,團(tuán)隊(duì)必須權(quán)衡效率、多功能性和準(zhǔn)確性,而不犧牲其中任何一項(xiàng)。Wan說:“主要?jiǎng)?chuàng)新是我們使用了一種新型的模數(shù)轉(zhuǎn)換方案,因?yàn)檫@被認(rèn)為是CIM芯片能源效率的主要瓶頸。我們發(fā)明了一種新的方案,它是基于感應(yīng)電壓,而以前的方案是基于感應(yīng)電流。電壓模式感應(yīng)還允許在單個(gè)計(jì)算周期內(nèi)提高RRAM陣列的并行性。”
他們還探索了一些新的體系結(jié)構(gòu),如可轉(zhuǎn)置神經(jīng)突觸陣列(TNSA),以靈活地控制數(shù)據(jù)流方向。Wan解釋道:“為了精確性,關(guān)鍵是算法和硬件協(xié)同設(shè)計(jì)。這基本上允許我們直接在這些AI模型中建模硬件特征?!边@反過來又允許算法適應(yīng)硬件非理想性并保持精確性。換言之,Wan總結(jié)道,他們優(yōu)化了整個(gè)堆棧,從設(shè)備到電路,從架構(gòu)到算法,設(shè)計(jì)出一款高效、通用、準(zhǔn)確的芯片。
加州大學(xué)圣地亞哥分校研究員Gert Cauwenberghs是這篇論文的合著者之一,他說:“內(nèi)存計(jì)算的大多數(shù)進(jìn)展都局限于軟件級(jí)的演示,基本上是使用一系列突觸。但在這里,我們將其放在堆棧的水平層?!?/p>
NeuRRAM在手寫數(shù)字識(shí)別任務(wù)中實(shí)現(xiàn)了99%的準(zhǔn)確率,在圖像分類任務(wù)中達(dá)到了85.7%,在谷歌語音命令識(shí)別任務(wù)中達(dá)到84.7%,在圖像恢復(fù)任務(wù)中,圖像重建錯(cuò)誤減少了70%。研究人員總結(jié)道:“這些結(jié)果可以與現(xiàn)有的數(shù)字芯片相媲美,這些數(shù)字芯片在相同的比特精度下進(jìn)行計(jì)算,但可以大幅節(jié)省能源?!?/p>
將NeuRRAM與Intel的Loihi 2神經(jīng)形態(tài)芯片(800萬神經(jīng)元Pohoiki Beach系統(tǒng)的組成部分)進(jìn)行比較,研究人員表示,他們的芯片具有更好的效率和密度。圣母大學(xué)(University of Notre Dame)另一位合著者兼研究員Siddharth Joshi補(bǔ)充道:“基本上,Loihi是一個(gè)標(biāo)準(zhǔn)的數(shù)字處理器,帶有SRAM庫和特定的可編程ISA(指令集)架構(gòu)。它們使用了一種更為von Neumann–ish式的架構(gòu),而我們的計(jì)算是在位線本身上進(jìn)行的。”
最近的研究還認(rèn)為,包括Loihi在內(nèi)的神經(jīng)形態(tài)芯片可能具有比AI更廣泛的應(yīng)用范圍,包括醫(yī)療和經(jīng)濟(jì)分析,以及量子計(jì)算需求。NeuRRAM的制造商同意這一觀點(diǎn),認(rèn)為內(nèi)存計(jì)算架構(gòu)是未來的發(fā)展方向。Cauwenberghs補(bǔ)充道,NeuRRAM的可擴(kuò)展性在架構(gòu)方面表現(xiàn)得很好,“因?yàn)槲覀冇羞@個(gè)并行的核心陣列,每個(gè)核心獨(dú)立進(jìn)行計(jì)算,這就是我們?nèi)绾螌?shí)現(xiàn)具有任意連接的大型網(wǎng)絡(luò)的方法?!?/p>
研究人員表示,現(xiàn)在考慮商業(yè)化還為時(shí)過早。雖然他們認(rèn)為芯片的高效硬件實(shí)現(xiàn)與內(nèi)存計(jì)算是一個(gè)成功的組合,但廣泛采用仍將取決于降低能效基準(zhǔn)。
“我們正在繼續(xù)努力整合學(xué)習(xí)規(guī)則,”Cauwenberghs報(bào)告說,“這樣未來的版本將能夠通過RRAM技術(shù)的進(jìn)步進(jìn)行循環(huán)學(xué)習(xí),從而實(shí)現(xiàn)大規(guī)模的增量學(xué)習(xí)或產(chǎn)品學(xué)習(xí)?!盬an還補(bǔ)充道,為了實(shí)現(xiàn)商業(yè)化,RRAM技術(shù)必須更容易為芯片設(shè)計(jì)者所用。
-
芯片
+關(guān)注
關(guān)注
459文章
52498瀏覽量
440716 -
人工智能
+關(guān)注
關(guān)注
1806文章
49012瀏覽量
249388 -
RRAM
+關(guān)注
關(guān)注
0文章
29瀏覽量
21539
原文標(biāo)題:新型AI芯片 其能效或是替代品的兩倍
文章出處:【微信號(hào):IEEE_China,微信公眾號(hào):IEEE電氣電子工程師】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
如何選擇 邊緣計(jì)算服務(wù)器

安世半導(dǎo)體將舉行理想二極管與負(fù)載開關(guān)線上研討會(huì)
如何選擇適合的交流負(fù)載箱?
HT4089應(yīng)用帶屏電子霧化器成為電子煙優(yōu)化鋰電池充電管理核心芯片IC理想選擇

如何選擇合適的電機(jī)驅(qū)動(dòng)芯片

如何選擇適合的buck電路芯片
Orin芯片與邊緣計(jì)算結(jié)合
負(fù)載開關(guān)芯片-負(fù)載開關(guān)電路芯片
使用負(fù)載開關(guān)和理想二極管延長電池壽命


ARMxy ARM物聯(lián)網(wǎng)邊緣計(jì)算網(wǎng)關(guān)支持Node-RED用于云邊端一體化

天拓四方:邊緣計(jì)算網(wǎng)關(guān)的選擇策略
如何選擇合適的邊緣ai分析一體機(jī)解決方案

評(píng)論