一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

神經(jīng)擬態(tài)計算是如何降耗的

要長高 ? 2024-06-07 15:35 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

自計算機問世以來,運算效能與能耗消耗兩大議題始終困擾著計算產(chǎn)業(yè)。在人工智能崛起的背景下,全球各地科研機構(gòu)及相關(guān)公司積極探索提高處理器算力的新方法,神經(jīng)擬態(tài)處理器即是一種創(chuàng)新嘗試。

如何模仿大腦思維?

神經(jīng)擬態(tài)計算,即模擬和探索人腦神經(jīng)網(wǎng)絡(luò)及其運作規(guī)律的領(lǐng)域,我們將之稱為類腦計算或神經(jīng)形態(tài)計算。數(shù)十年來,科學(xué)家們致力于復(fù)刻生物神經(jīng)元的多功能運算模式,以期研發(fā)出高效能且低功耗的機器學(xué)習系統(tǒng)。

歷經(jīng)多年探索,業(yè)界已形成三種神經(jīng)擬態(tài)處理器的實現(xiàn)路徑。一為數(shù)字CMOS型,通過邏輯門電路模擬生物單元行為;二為數(shù)?;旌系腃MOS型,借助亞閾值模擬電路呈現(xiàn)生物神經(jīng)元特性;前兩者均基于硅基晶體管。第三種則是研發(fā)新型器件,如憶阻器、相變存儲器、鐵電器件、磁隧道結(jié)、離子?xùn)趴鼐w管等,并采用非硅基材料。

然而,目前大部分研究尚未實現(xiàn)商業(yè)化生產(chǎn)。英特爾作為眾多研究機構(gòu)中的佼佼者,選擇了第一種實現(xiàn)方式——用晶體管模擬人類神經(jīng)元功能。其中,如何讓處理器達到類似人腦的節(jié)能效果,便是他們的重要研究課題。

德國海德堡大學(xué)物理學(xué)家卡爾海因茨·邁耶(Karlheinz Meier)指出,相比計算機,人腦具有三大優(yōu)勢:低能耗,僅需約20瓦特的能量。

今年四月,英特爾推出神經(jīng)擬態(tài)系統(tǒng)Hala Point。據(jù)稱,該系統(tǒng)在處理AI推理負載和優(yōu)化問題方面,速度較常規(guī)CPUGPU架構(gòu)快50倍,而能耗卻降低了100倍。近日,英特爾中國研究院院長宋繼強向中國電子報記者詳解了該系統(tǒng)模擬人腦節(jié)能的實現(xiàn)原理。他首先解釋了市場上常見芯片系統(tǒng)的頻率特征:通常提及的CPU主頻,如5GHz,代表同步時鐘的頻率,即芯片內(nèi)所有邏輯門、存儲均以此頻率運行,或在此基礎(chǔ)上進行降級。例如,總線頻率可能低于CPU主頻,I/O接口頻率更低,但總體來看,同一芯片內(nèi)所有組件均受同步時鐘驅(qū)動,從而實現(xiàn)同時工作。因此,各部件能耗也同步進行。

宋繼強表示,英特爾的神經(jīng)擬態(tài)計算無需同步時鐘,取代之的是“時間步”概念——每當任務(wù)結(jié)束,“神經(jīng)元”便依據(jù)預(yù)定順序逐步推進。每個時間步里,信號均由一個神經(jīng)元傳至下一個,以此方式進行傳播和擴散。盡管神經(jīng)擬態(tài)計算要求系統(tǒng)在時間步級別保持同步,但并非所有神經(jīng)元需在所有工作序列中完全同步,允許有些任務(wù)快速處理,有些則緩慢處理。這與人類大腦類似,部分神經(jīng)元負責處理嗅覺信息,同時另一部分則處理視覺信息。因此,在神經(jīng)擬態(tài)計算系統(tǒng)中,有任務(wù)執(zhí)行的路徑會消耗電力,其余路徑則處于休眠狀態(tài)。即使是大規(guī)模的神經(jīng)擬態(tài)集群,其運行時神經(jīng)元也僅進行少量并行運算。

該計算系統(tǒng)另一節(jié)能策略在于其存算一體的結(jié)構(gòu)。當前市場上計算系統(tǒng)的能源消耗主要集中于計算和數(shù)據(jù)傳輸兩個方面,而神經(jīng)擬態(tài)計算系統(tǒng)通過實現(xiàn)存算一體,成功規(guī)避了傳統(tǒng)核內(nèi)外架構(gòu)在處理大量數(shù)據(jù)傳輸時產(chǎn)生的能量損失。

節(jié)能與否,取決于具體情境

低能耗被視為神經(jīng)擬態(tài)處理器的天然架構(gòu)優(yōu)勢。早在2020年,宋繼強就曾公開宣稱:神經(jīng)擬態(tài)計算在算法及芯片設(shè)計上,可以千分之一以內(nèi)的功耗完成同等效果的模型訓(xùn)練。浙江大學(xué)的唐華錦教授亦認同神經(jīng)擬態(tài)芯片為環(huán)保型芯片,因其體積小、功耗低,符合生物進化的根本優(yōu)勢。

然而,根據(jù)Hala Point最新實踐成果,該架構(gòu)處理器的節(jié)能效果與其使用情境密切相關(guān)。宋繼強指出,現(xiàn)階段發(fā)現(xiàn)該系統(tǒng)在處理物流調(diào)度數(shù)據(jù)中心的大規(guī)模優(yōu)化任務(wù)時能效表現(xiàn)最佳,相較于CPU+GPU組合方案節(jié)能高達3000倍。

“但這并非指數(shù)據(jù)中心所有工作負載,僅針對個別項目。”他補充道,“我們正努力尋找該系統(tǒng)適用的場景,若賦予其不適宜的任務(wù),能耗或高于原有處理系統(tǒng)?!?/p>

至于HalaPoint能否解決當前大模型訓(xùn)練中的高能耗問題,宋繼強回應(yīng)稱:該系統(tǒng)設(shè)計初衷并非專為大模型服務(wù),故不適合大規(guī)模數(shù)據(jù)輸入。

ResNet50網(wǎng)絡(luò)(殘差網(wǎng)絡(luò)的一種)是驗證Hala Point節(jié)能效果的典型場景之一。在此類應(yīng)用中,經(jīng)優(yōu)化的Hala Point在達到相同性能前提下,能耗可降至原有方案的百分之一以下。對于某些特定深度的神經(jīng)網(wǎng)絡(luò),如視覺識別類應(yīng)用,通過在脈沖神經(jīng)網(wǎng)絡(luò)上進行適當調(diào)整,結(jié)合硬件層面的適配,同樣有助于降低能耗。

總的來說,該系統(tǒng)在稀疏性局部并發(fā)型應(yīng)用中表現(xiàn)更為出色。目前,市面上大部分神經(jīng)擬態(tài)處理器主要應(yīng)用于機器人無人機等領(lǐng)域。宋繼強透露,HalaPoint約有一半的應(yīng)用涉及機器人、操控、多模態(tài)視覺等方面。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 處理器
    +關(guān)注

    關(guān)注

    68

    文章

    19896

    瀏覽量

    235330
  • 英特爾
    +關(guān)注

    關(guān)注

    61

    文章

    10196

    瀏覽量

    174714
  • 神經(jīng)
    +關(guān)注

    關(guān)注

    0

    文章

    46

    瀏覽量

    12669
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點推薦

    空間計算是如何運作的?它有哪些優(yōu)勢?

    空間計算將數(shù)字數(shù)據(jù)與物理世界實時融合,通過增強現(xiàn)實和虛擬現(xiàn)實頭顯或智能眼鏡等設(shè)備、增強混合現(xiàn)實交互。
    的頭像 發(fā)表于 07-02 09:14 ?312次閱讀

    你以為的安全,真的安全嗎?——擬態(tài)安全,一場關(guān)于認知的博弈

    一種系統(tǒng)漏洞,結(jié)果目標系統(tǒng)已經(jīng)“變身”了,那么還能成功得手嘛?這就是 擬態(tài)安全 所帶來的防護體系。 ? 擬態(tài)安全是什么? 擬態(tài)安全是一種基于動態(tài)異構(gòu)冗余架構(gòu)(DHR)的主動防御技術(shù),是由中國工程院鄔江興院士根據(jù)
    的頭像 發(fā)表于 04-14 10:45 ?169次閱讀
    你以為的安全,真的安全嗎?——<b class='flag-5'>擬態(tài)</b>安全,一場關(guān)于認知的博弈

    【「芯片通識課:一本書讀懂芯片技術(shù)」閱讀體驗】從deepseek看今天芯片發(fā)展

    神經(jīng)元并行處理問題的能力,所以NPU要用大量計算單元(也稱為“算子”)構(gòu)成一個神經(jīng)網(wǎng)絡(luò),而且這些算子的數(shù)據(jù)存儲和計算是一體化的。這就突破了傳統(tǒng)的馮·諾依曼
    發(fā)表于 04-02 17:25

    大數(shù)據(jù)與云計算是干嘛的?

    大數(shù)據(jù)與云計算是支撐現(xiàn)代數(shù)字化技術(shù)的兩大核心。大數(shù)據(jù)專注于海量數(shù)據(jù)的采集、存儲、分析與價值挖掘;云計算通過虛擬化資源池提供彈性計算、存儲及服務(wù)能力。兩者結(jié)合,共同賦能企業(yè)決策、業(yè)務(wù)創(chuàng)新和效率提升。下面UU云小編將詳細剖析大數(shù)據(jù)與
    的頭像 發(fā)表于 02-20 14:48 ?638次閱讀

    什么是BP神經(jīng)網(wǎng)絡(luò)的反向傳播算法

    神經(jīng)網(wǎng)絡(luò)(即反向傳播神經(jīng)網(wǎng)絡(luò))的核心,它建立在梯度下降法的基礎(chǔ)上,是一種適合于多層神經(jīng)元網(wǎng)絡(luò)的學(xué)習算法。該算法通過計算每層網(wǎng)絡(luò)的誤差,并將這些誤差反向傳播到前一層,從而調(diào)整權(quán)重,使得網(wǎng)
    的頭像 發(fā)表于 02-12 15:18 ?775次閱讀

    融合計算是如何提出來的

    融合計算是微觀和宏觀視角算力提升策略的總結(jié),是三個維度融合(異構(gòu)融合x軟硬件融合x云邊端融合)的統(tǒng)稱,那么融合計算是如何提出來的?為什么融合計算有且僅有三個維度的融合? ? 性能和算力 1.1 性能
    的頭像 發(fā)表于 12-10 09:51 ?530次閱讀
    融合<b class='flag-5'>計算是</b>如何提出來的

    卷積神經(jīng)網(wǎng)絡(luò)與傳統(tǒng)神經(jīng)網(wǎng)絡(luò)的比較

    神經(jīng)網(wǎng)絡(luò),也稱為全連接神經(jīng)網(wǎng)絡(luò)(Fully Connected Neural Networks,F(xiàn)CNs),其特點是每一層的每個神經(jīng)元都與下一層的所有神經(jīng)元相連。這種結(jié)構(gòu)簡單直觀,但在
    的頭像 發(fā)表于 11-15 14:53 ?1879次閱讀

    卷積神經(jīng)網(wǎng)絡(luò)的基本原理與算法

    ),是深度學(xué)習的代表算法之一。 一、基本原理 卷積運算 卷積運算是卷積神經(jīng)網(wǎng)絡(luò)的核心,用于提取圖像中的局部特征。 定義卷積核:卷積核是一個小的矩陣,用于在輸入圖像上滑動,提取局部特征。 滑動窗口:將卷積核在輸入圖像上滑動,每次滑動一個像素點。
    的頭像 發(fā)表于 11-15 14:47 ?1785次閱讀

    淺析醫(yī)院節(jié)能降耗的意義和應(yīng)采取的措施

    摘要:能源是每一個國家發(fā)展過程中的必然需求,也是提高人們生活質(zhì)量的一個主要的資本,如果能源大量的消耗,就會影響國家的發(fā)展以及社會的進步。所以本次文章的研究,也是以醫(yī)院內(nèi)部的節(jié)能降耗工作開展情況進行
    的頭像 發(fā)表于 11-13 13:23 ?472次閱讀
    淺析醫(yī)院節(jié)能<b class='flag-5'>降耗</b>的意義和應(yīng)采取的措施

    醫(yī)院節(jié)能降耗的意義和應(yīng)采取的對策措施

    ,也是以醫(yī)院內(nèi)部的節(jié)能降耗工作開展情況進行深入的分析,力求能夠找到恰當有效的實施策略,解決其中存在問題的基礎(chǔ)上,提高醫(yī)院內(nèi)部能源降耗的有效性,以此實現(xiàn)醫(yī)院節(jié)能工作開展,為我國醫(yī)療機構(gòu)的發(fā)展進步做出貢獻。 關(guān)鍵詞:醫(yī)院;節(jié)能降耗;
    的頭像 發(fā)表于 11-11 14:53 ?514次閱讀
    醫(yī)院節(jié)能<b class='flag-5'>降耗</b>的意義和應(yīng)采取的對策措施

    淺談醫(yī)院節(jié)能降耗的意義和應(yīng)采取的對策措施

    摘要: 能源是每一個國家發(fā)展過程中的必然需求,也是提高人們生活質(zhì)量的一個主要的資本,如果能源大量的消耗,就會影響國家的發(fā)展以及社會的進步。所以本次文章的研究,也是以醫(yī)院內(nèi)部的節(jié)能降耗工作開展情況進行
    的頭像 發(fā)表于 11-05 09:58 ?370次閱讀
    淺談醫(yī)院節(jié)能<b class='flag-5'>降耗</b>的意義和應(yīng)采取的對策措施

    人工智能云計算是什么

    人工智能云計算,簡而言之,是指將人工智能技術(shù)與云計算平臺相結(jié)合,利用云計算的強大計算力、存儲能力和靈活可擴展性,來加速AI模型的訓(xùn)練、推理和優(yōu)化過程,同時實現(xiàn)AI服務(wù)的廣泛部署和按需使
    的頭像 發(fā)表于 10-12 09:46 ?773次閱讀

    IOT邊緣計算網(wǎng)關(guān):物聯(lián)網(wǎng)的“神經(jīng)系統(tǒng)”

    在物聯(lián)網(wǎng)(IoT)的快速發(fā)展中,邊緣計算網(wǎng)關(guān)作為物聯(lián)網(wǎng)的“神經(jīng)系統(tǒng)”,扮演著至關(guān)重要的角色。它不僅負責將物聯(lián)網(wǎng)設(shè)備的數(shù)據(jù)收集并傳輸?shù)皆?b class='flag-5'>計算平臺,還具備數(shù)據(jù)處理、存儲、管理和安全防護等多重功能。本文將
    的頭像 發(fā)表于 09-25 11:44 ?884次閱讀
    IOT邊緣<b class='flag-5'>計算</b>網(wǎng)關(guān):物聯(lián)網(wǎng)的“<b class='flag-5'>神經(jīng)</b>系統(tǒng)”

    節(jié)能降耗管理平臺的六大核心能力

    隨著能源資源日益緊缺和環(huán)境保護意識的增強,節(jié)能降耗管理平臺作為一種集成化的智能系統(tǒng),在各行業(yè)得到了廣泛應(yīng)用。這種平臺通過數(shù)據(jù)采集、監(jiān)測分析和智能控制等手段,幫助企業(yè)有效管理能源消耗、提高能源利用效率
    的頭像 發(fā)表于 09-05 15:15 ?544次閱讀

    LMV7219電特性表里面的失調(diào)電壓和內(nèi)部滯環(huán)的計算是帶符號計算嗎?

    您好,LMV7219電特性表里面的失調(diào)電壓和內(nèi)部滯環(huán)的計算是帶符號計算嗎?按照下圖電特性表(4)的定義:內(nèi)部滯環(huán)的典型值為3.5mV-(-4mV)=7.5mV,而失調(diào)電壓等于(3.5mV+(-4mV))/ 2=0.25mV ?
    發(fā)表于 07-31 06:41