雖然與以千兆赫速度運行的現(xiàn)代微處理器相比,人腦的運行速度只有幾赫茲,簡直就像蝸牛一樣,但毋庸置疑的是,人類大腦是迄今為止已知的最偉大的計算設(shè)備。人類大腦的強大之處在于,能夠同時進行每秒十億次的計算,這種并行性使得它能夠輕松地解決傳統(tǒng)計算機尚未解決的問題,比如駕駛、行走、交談等等。而更不可思議的是,這每秒十億次的計算背后,大腦所需要的能量來源可能僅為一碗稀飯。相比之下,一臺超級計算機所需要的電力要超過一座大城市的電力消耗,遠遠多于大腦幾個數(shù)量級。這就是為什么計算機科學家,一心想要使用神經(jīng)網(wǎng)絡作為計算工具,以模擬人類大腦的計算性能。但說起來容易做起來難。雖然通過普通芯片也可以編入類似于神經(jīng)網(wǎng)絡的程序,但這需要大量的計算和能量消耗。
于是,計算機科學家嘗試創(chuàng)建人工神經(jīng)元,并將它們連接成類似大腦的網(wǎng)絡。不過一直以來,并沒有人提出一個設(shè)計能夠接近大腦的計算性能和運行效率。近日,麻省理工學院的 Emily Toomey 和他的同事設(shè)計了一個由納米線組成的超導神經(jīng)元,在很多方面都更加接近一個真實的神經(jīng)元。研究成果以預印本的形式發(fā)表在 arxiv.org 網(wǎng)站上。研究人員表示,他們的設(shè)備與大腦的能量效率相匹配(至少在理論上是這樣),并且是新一代超導神經(jīng)網(wǎng)絡的基石,該超導神經(jīng)網(wǎng)絡的效率將遠遠高于傳統(tǒng)的計算設(shè)備。首先,我們了解一些背景知識。神經(jīng)元以電脈沖或動作電位的形式編碼信息,這些電脈沖或動作電位沿著神經(jīng)纖維傳播,神經(jīng)元之間通過突觸的結(jié)構(gòu)進行彼此分隔和信號傳遞。一個神經(jīng)元可以通過突觸影響其它神經(jīng)元,傳遞的神經(jīng)信號可以激活或抑制下游神經(jīng)元。事實上,突觸的存在可以使神經(jīng)元之間像邏輯門一樣工作,對多個輸入信號產(chǎn)生一個輸出響應。在生物神經(jīng)元中,的確有許多重要的特性,比如除非輸入信號超過某個閾值水平,否則信號不會激活,而且在經(jīng)過一段時間(稱為不應期)之前,它們不能被再次激活;此外,突起沿軸突移動的時間也很重要,因為它編碼了突起已經(jīng)移動的距離。因此,人工神經(jīng)元必須能夠盡可能多地復制這些生物特征,而這也需要一些更復雜的電路設(shè)計。Toomey 和他的同事指出,超導納米線具有一種特殊的非線性特性,使得它們可以像神經(jīng)元一樣工作。這種特性的產(chǎn)生是因為當流過納米線的電流超過某個閾值時,納米線的超導性就會崩潰,此時電阻突然增大,產(chǎn)生了一個類似于神經(jīng)元動作電位的電壓脈沖。用這種電壓脈沖來調(diào)制另一根超導納米線產(chǎn)生的另一個脈沖,使得對生物神經(jīng)元的模擬更加真實,相當于創(chuàng)造了一個具有許多生物神經(jīng)元特性的簡單超導電路。研究人員也已經(jīng)證明超導神經(jīng)元具有觸發(fā)閾值、不應期,以及可以根據(jù)電路特性進行調(diào)整的傳播時間等特性。
圖 | 超導納米線中的松弛振蕩,是納米線神經(jīng)元中脈沖形成的基礎(chǔ)(來源:arxiv.prg)至關(guān)重要的是,這種超導神經(jīng)元還可以用來觸發(fā)或抑制其它神經(jīng)元。這種“分列”屬性是創(chuàng)建神經(jīng)網(wǎng)絡的關(guān)鍵,也是其它超導神經(jīng)元設(shè)計從未實現(xiàn)的。Toomey 和同事的計算表明,由于超導電路耗電量很小,這種超導神經(jīng)網(wǎng)絡可以與生物神經(jīng)網(wǎng)絡的效率相媲美。神經(jīng)網(wǎng)絡中每秒使用 1 瓦特能量可以執(zhí)行的突觸運行數(shù)量,是衡量計算性能的指標。Toomey 表示,他們提出的神經(jīng)網(wǎng)絡應該能夠達到每秒每瓦特 10^14 個突觸運行,與人類大腦大致相當?!皬墓β屎退俣鹊慕嵌葋砜矗{米線神經(jīng)元可能是一項極具競爭力的技術(shù)?!彼麄冋f。當然,納米線神經(jīng)元也存在一些局限。與大腦相比,超導神經(jīng)元最大的差距就是只能連接少數(shù)其它神經(jīng)元,相比之下,人類大腦中的每個神經(jīng)元都與成千上萬的神經(jīng)元相連。而且,目前 Toomey 等人的超導神經(jīng)網(wǎng)絡還只是一個設(shè)計。盡管如此,模擬結(jié)果還是很有希望的。研究人員表示,目前的分析表明,納米線神經(jīng)元是低功耗人工神經(jīng)網(wǎng)絡發(fā)展的一個有希望的候選對象,而且潛力是巨大的。研究人員認為,超導神經(jīng)網(wǎng)絡可能成為全新計算機硬件的基礎(chǔ),這些芯片可以通過超導互連連接在一起,也就沒有散熱的問題?!捌浣Y(jié)果將是一個大規(guī)模的神經(jīng)形態(tài)處理器,它可以被訓練成一個脈沖神經(jīng)網(wǎng)絡(spiking neural network),執(zhí)行模式識別之類的任務或用于模擬大型生物仿真網(wǎng)絡的脈沖動力學?!睙o論如何,這是一項有趣的工作,盡管在興奮之前還需要進行概念驗證演示。
-
網(wǎng)絡
+關(guān)注
關(guān)注
14文章
7814瀏覽量
90926 -
神經(jīng)元
+關(guān)注
關(guān)注
1文章
368瀏覽量
18836
發(fā)布評論請先 登錄
無刷直流電機單神經(jīng)元自適應智能控制系統(tǒng)
無刷直流電機單神經(jīng)元PI控制器的設(shè)計
蚌埠:傳感“神經(jīng)元”激活產(chǎn)業(yè)新脈動,智能傳感器產(chǎn)業(yè)邁向千億新征程
BP神經(jīng)網(wǎng)絡的網(wǎng)絡結(jié)構(gòu)設(shè)計原則
BP神經(jīng)網(wǎng)絡與卷積神經(jīng)網(wǎng)絡的比較
什么是BP神經(jīng)網(wǎng)絡的反向傳播算法
如何訓練BP神經(jīng)網(wǎng)絡模型
深度學習入門:簡單神經(jīng)網(wǎng)絡的構(gòu)建與實現(xiàn)
人工神經(jīng)網(wǎng)絡的原理和多種神經(jīng)網(wǎng)絡架構(gòu)方法

請問ADS1298稱為生理信號測量轉(zhuǎn)換器,和傳統(tǒng)AD轉(zhuǎn)換器有什么區(qū)別?
卷積神經(jīng)網(wǎng)絡與傳統(tǒng)神經(jīng)網(wǎng)絡的比較
RNN模型與傳統(tǒng)神經(jīng)網(wǎng)絡的區(qū)別
光遺傳學 – 用光控制細胞和動物

評論