一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

英特爾發(fā)布新一代神經(jīng)擬態(tài)系統(tǒng)Hala Point,11.5億神經(jīng)元,12倍性能提升

looger123 ? 來源:looger123 ? 作者:looger123 ? 2024-04-19 09:43 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

作為英特爾首個神經(jīng)元數(shù)量達(dá)到11.5億的神經(jīng)擬態(tài)系統(tǒng),Hala Point為更高效、規(guī)模更大的AI開辟了道路。


英特爾發(fā)布了代號為Hala Point的大型神經(jīng)擬態(tài)系統(tǒng)。Hala Point基于英特爾Loihi 2神經(jīng)擬態(tài)處理器打造而成,旨在支持類腦AI領(lǐng)域的前沿研究,解決AI目前在效率和可持續(xù)性等方面的挑戰(zhàn)。在英特爾第一代大規(guī)模研究系統(tǒng)Pohoiki Springs的基礎(chǔ)上,Hala Point改進(jìn)了架構(gòu),將神經(jīng)元容量提高了10倍以上,性能提高了12倍。

英特爾研究院神經(jīng)擬態(tài)計算實驗室總監(jiān)Mike Davies 表示:“目前,AI模型的算力成本正在持續(xù)上升。行業(yè)需要能夠規(guī)?;娜掠嬎惴椒ā榇?,英特爾開發(fā)了Hala Point,將高效率的深度學(xué)習(xí)和新穎的類腦持續(xù)學(xué)習(xí)、優(yōu)化能力結(jié)合起來。我們希望使用Hala Point的研究能夠在大規(guī)模AI技術(shù)的效率和適應(yīng)性上取得突破?!?/p>

Hala Point在主流AI工作負(fù)載上展現(xiàn)了出色的計算效率。研究顯示,在運行傳統(tǒng)深度神經(jīng)網(wǎng)絡(luò)時,該系統(tǒng)能夠每秒完成多達(dá)2萬萬億次(20 petaops)運算,8位運算能效比達(dá)到了15 TOPS/W,相當(dāng)于甚至超過了基于GPUCPU的架構(gòu)。Hala Point有望推動多領(lǐng)域AI應(yīng)用的實時持續(xù)學(xué)習(xí),如科學(xué)研究、工程、物流、智能城市基礎(chǔ)設(shè)施管理、大語言模型(LLMs)和AI助手(AI agents)。

目前,Hala Point是一個旨在改進(jìn)未來商用系統(tǒng)的研究原型。英特爾預(yù)計其研究將帶來實際技術(shù)突破,如讓大語言模型擁有從新數(shù)據(jù)中持續(xù)學(xué)習(xí)的能力,從而有望在AI廣泛部署的過程中,大幅降低訓(xùn)練能耗,提高可持續(xù)性。

image.png

深度學(xué)習(xí)模型的規(guī)模正在不斷擴(kuò)大,參數(shù)量可達(dá)萬億級。這一趨勢意味著AI技術(shù)在可持續(xù)性上面臨著嚴(yán)峻的挑戰(zhàn),有必要探索硬件架構(gòu)底層的創(chuàng)新。神經(jīng)擬態(tài)計算是一種借鑒神經(jīng)科學(xué)研究的全新計算方法,通過存算一體和高細(xì)粒度的并行計算,大幅減少了數(shù)據(jù)傳輸。在本月舉行的聲學(xué)、語音與信號處理國際會議(ICASSP)上,英特爾發(fā)表的研究表明,Loihi 2在新興的小規(guī)模邊緣工作負(fù)載上實現(xiàn)了效率、速度和適應(yīng)性數(shù)量級的提升[1]。

Hala Point在其前身Pohoiki Springs的基礎(chǔ)上實現(xiàn)了大幅提升,基于神經(jīng)擬態(tài)計算技術(shù)提升了主流、常規(guī)深度學(xué)習(xí)模型的性能和效率,尤其是那些用于處理視頻、語音和無線通信等實時工作負(fù)載的模型。例如,在今年的世界移動通信大會(MWC)上,愛立信研究院(Ericsson Research)就展示了其如何將 Loihi 2神經(jīng)擬態(tài)處理器應(yīng)用于電信基礎(chǔ)設(shè)施效率的優(yōu)化。

Hala Point基于神經(jīng)擬態(tài)處理器Loihi 2打造,Loihi 2應(yīng)用了眾多類腦計算原理,如異步(asynchronous)、基于事件的脈沖神經(jīng)網(wǎng)絡(luò)(SNNs)、存算一體,以及不斷變化的稀疏連接,以實現(xiàn)能效比和性能的數(shù)量級提升。神經(jīng)元之間能夠直接通信,而非通過內(nèi)存通信,因此能降低整體功耗。

Hala Point系統(tǒng)由封裝在一個六機(jī)架的數(shù)據(jù)中心機(jī)箱中的1152個Loihi 2處理器(采用Intel 4制程節(jié)點)組成,大小相當(dāng)于一個微波爐。該系統(tǒng)支持分布在 140544 個神經(jīng)形態(tài)處理內(nèi)核上的多達(dá) 11.5 億個神經(jīng)元和 1280 億個突觸,最大功耗僅為 2600 瓦。Hala Point還包括 2300 多個嵌入式 x86 處理器,用于輔助計算。

在大規(guī)模的并行結(jié)構(gòu)中,Hala Point集成了處理器、內(nèi)存和通信通道,內(nèi)存帶寬達(dá)每秒16PB,內(nèi)核間的通信帶寬達(dá)每秒3.5 PB,芯片間的通信帶寬達(dá)每秒5TB。該系統(tǒng)每秒可處理超過380萬億次8位突觸運算和超過240萬億次神經(jīng)元運算。

在用于仿生脈沖神經(jīng)網(wǎng)絡(luò)模型時,Hala Point能夠以比人腦快20倍的實時速度運行其全部11.5億個神經(jīng)元,在運行神經(jīng)元數(shù)量較低的情況下,速度可比人腦快200倍。雖然Hala Point并非用于神經(jīng)科學(xué)建模,但其神經(jīng)元容量大致相當(dāng)于貓頭鷹的大腦或卷尾猴的大腦皮層。

在執(zhí)行AI推理負(fù)載和處理優(yōu)化問題時, Loihi 2神經(jīng)擬態(tài)芯片系統(tǒng)的速度比常規(guī)CPU和GPU架構(gòu)快50倍,同時能耗降低了100倍[1]。早期研究結(jié)果表明,通過利用稀疏性高達(dá)10比1的稀疏連接(sparse connectivity)和事件驅(qū)動的活動,Hala Point運行深度神經(jīng)網(wǎng)絡(luò)的能效比高達(dá)15 TOPS/W[2],同時無需對輸入數(shù)據(jù)進(jìn)行批處理。批處理是一種常用于GPU的優(yōu)化方法,會大幅增加實時數(shù)據(jù)(如來自攝像頭的視頻)處理的延遲。盡管仍處于研究階段,但未來的神經(jīng)擬態(tài)大語言模型將不再需要定期在不斷增長的數(shù)據(jù)集上再訓(xùn)練,從而節(jié)約數(shù)千兆瓦時的能源。

世界各地領(lǐng)先的學(xué)術(shù)團(tuán)體、研究機(jī)構(gòu)和公司共同組成了英特爾神經(jīng)擬態(tài)研究社區(qū)(INRC),成員總數(shù)超過200個。攜手英特爾神經(jīng)擬態(tài)研究社區(qū),英特爾正致力于開拓類腦AI前沿技術(shù),以將其從技術(shù)原型轉(zhuǎn)化為業(yè)界領(lǐng)先的產(chǎn)品。

審核編輯 黃宇

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 英特爾
    +關(guān)注

    關(guān)注

    61

    文章

    10193

    瀏覽量

    174647
  • AI
    AI
    +關(guān)注

    關(guān)注

    88

    文章

    35080

    瀏覽量

    279417
  • 深度學(xué)習(xí)
    +關(guān)注

    關(guān)注

    73

    文章

    5561

    瀏覽量

    122781
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點推薦

    無刷直流電機(jī)單神經(jīng)元自適應(yīng)智能控制系統(tǒng)

    常規(guī)PID,大大提高了系統(tǒng)的跟隨性,能滿足BLDCM系統(tǒng)對實時性的要求。 純分享帖,點擊下方附件免費獲取完整資料~~~ *附件:無刷直流電機(jī)單神經(jīng)元自適應(yīng)智能控制系統(tǒng).pdf 【免責(zé)聲
    發(fā)表于 06-26 13:36

    無刷直流電機(jī)單神經(jīng)元PI控制器的設(shè)計

    摘要:研究了種基于專家系統(tǒng)的單神經(jīng)元PI控制器,并將其應(yīng)用于無刷直流電機(jī)調(diào)速系統(tǒng)中??刂破鲗崿F(xiàn)了PI參數(shù)的在線調(diào)整,在具有PID控制器良好動態(tài)性能
    發(fā)表于 06-26 13:34

    直擊Computex 2025:英特爾重磅發(fā)布新一代GPU,圖形和AI性能躍升3.4

    電子發(fā)燒友原創(chuàng)? 章鷹 5月19日,在Computex 2025上,英特爾發(fā)布了最新全新圖形處理器(GPU)和AI加速器產(chǎn)品系列。包括全新英特爾銳炫? Pro B系列GPU——英特爾
    的頭像 發(fā)表于 05-21 00:57 ?5888次閱讀
    直擊Computex 2025:<b class='flag-5'>英特爾</b>重磅<b class='flag-5'>發(fā)布</b><b class='flag-5'>新一代</b>GPU,圖形和AI<b class='flag-5'>性能</b>躍升3.4<b class='flag-5'>倍</b>

    直擊Computex2025:英特爾重磅發(fā)布新一代GPU,圖形和AI性能躍升3.4

    5月19日,在Computex 2025上,英特爾發(fā)布了最新全新圖形處理器(GPU)和AI加速器產(chǎn)品系列。包括全新英特爾銳炫? Pro B系列GPU——英特爾銳炫Pro B60和
    的頭像 發(fā)表于 05-20 12:27 ?4433次閱讀
    直擊Computex2025:<b class='flag-5'>英特爾</b>重磅<b class='flag-5'>發(fā)布</b><b class='flag-5'>新一代</b>GPU,圖形和AI<b class='flag-5'>性能</b>躍升3.4<b class='flag-5'>倍</b>

    1.9性能提升英特爾至強(qiáng)6在MLPerf基準(zhǔn)測試中表現(xiàn)卓越

    關(guān)鍵項目中,性能表現(xiàn)卓越。測試結(jié)果顯示,相較于上一代產(chǎn)品,該處理器的AI性能實現(xiàn)了高達(dá)1.9的顯著提升,這也充分顯示了至強(qiáng)6處理器作為現(xiàn)代
    的頭像 發(fā)表于 04-07 10:58 ?278次閱讀

    英特爾推出具備高性能和能效的以太網(wǎng)解決方案

    和網(wǎng)絡(luò)適配器,以及英特爾以太網(wǎng)控制器E610和網(wǎng)絡(luò)適配器,旨在滿足企業(yè)、電信、云、邊緣、科學(xué)計算(HPC)和AI等領(lǐng)域日益增長的需求。這些新一代解決方案可以提供強(qiáng)勁的高性能連接,同時提升
    發(fā)表于 02-25 11:17 ?223次閱讀
    <b class='flag-5'>英特爾</b>推出具備高<b class='flag-5'>性能</b>和能效的以太網(wǎng)解決方案

    英特爾OpenVINO 2025.0正式發(fā)布

    生成式AI(GenAI)在模型質(zhì)量與應(yīng)用范圍上持續(xù)爆發(fā)式增長,DeepSeek 等頂尖模型已引發(fā)行業(yè)熱議,這種勢頭預(yù)計將在 2025年延續(xù)。本次更新聚焦性能提升、更多生成式AI 模型的支持,并針對英特爾
    的頭像 發(fā)表于 02-21 10:20 ?738次閱讀
    <b class='flag-5'>英特爾</b>OpenVINO 2025.0正式<b class='flag-5'>發(fā)布</b>

    HPE攜手英特爾至強(qiáng)6,打造新一代服務(wù)器性能巔峰

    近日,慧與科技(HPE)推出了八款全新HPE ProLiant Compute Gen12服務(wù)器,標(biāo)志著新一代企業(yè)級服務(wù)器領(lǐng)域的新標(biāo)桿正式誕生。這系列服務(wù)器全面搭載了英特爾至強(qiáng)6處理
    的頭像 發(fā)表于 02-18 10:38 ?445次閱讀

    英特爾發(fā)布新一代Core Ultra芯片,為2025移動計算確立新標(biāo)準(zhǔn)

    電子發(fā)燒友原創(chuàng) 章鷹 ? 1月6日,在美國拉斯維加斯舉辦的CES(消費電子)展上,英特爾發(fā)布了最新AI PC芯片產(chǎn)品,包括適用于“高性能輕薄”筆記本電腦的 Core Ultra 200H 芯片,以及
    的頭像 發(fā)表于 01-14 00:58 ?4271次閱讀
    <b class='flag-5'>英特爾</b><b class='flag-5'>發(fā)布</b><b class='flag-5'>新一代</b>Core Ultra芯片,為2025移動計算確立新標(biāo)準(zhǔn)

    英特爾12月或發(fā)布Battlemage GPU芯片

    近日,有關(guān)英特爾即將在12發(fā)布全新Battlemage GPU芯片的傳聞再次被證實。據(jù)硬件挖掘者和泄密者Tomasz Gawrońsk分享的預(yù)告圖顯示,英特爾極有可能在AMD RDN
    的頭像 發(fā)表于 11-19 17:37 ?810次閱讀

    關(guān)于卷積神經(jīng)網(wǎng)絡(luò),這些概念你厘清了么~

    取特征的強(qiáng)大工具,例如識別音頻信號或圖像信號中的復(fù)雜模式就是其應(yīng)用之。 1、什么是卷積神經(jīng)網(wǎng)絡(luò)? 神經(jīng)網(wǎng)絡(luò)是種由神經(jīng)元組成的
    發(fā)表于 10-24 13:56

    曝Apollo擬向英特爾投資50美元

    資產(chǎn)管理巨頭Apollo近日透露出對科技巨頭英特爾的濃厚興趣,計劃進(jìn)行筆高達(dá)50美元的股權(quán)投資,這數(shù)字約占英特爾當(dāng)前市值(931.9
    的頭像 發(fā)表于 09-24 11:38 ?609次閱讀

    AI PC市場爆發(fā),英特爾、高通相繼推出新一代AI PC芯片,戰(zhàn)況火熱升級

    針對移動市場推出的第二產(chǎn)品,也就是其早前展示的Lunar Lake處理器。英特爾表示,首批搭載Ultra 200V芯片的筆記本電腦將在9月24日上線。在整場發(fā)布會期間,英特爾反復(fù)強(qiáng)調(diào)
    的頭像 發(fā)表于 09-06 00:16 ?4685次閱讀

    龍芯中科胡偉武:3B6600 八核桌面 CPU 性能將達(dá)到英特爾中高端酷睿 12~13 水平

    英特爾公司 Xeon 4314 和 6338。 胡偉武預(yù)告,龍芯當(dāng)前正在研制的 3B6600 八核桌面 CPU 使用成熟工藝 預(yù)計單核 / 多核性能可以達(dá)到使用先進(jìn)工藝的中高端酷睿 12~13
    發(fā)表于 08-13 11:16

    英特爾發(fā)布一代車載銳炫獨立顯卡

    英特爾震撼發(fā)布其第一代車載英特爾銳炫獨立顯卡,標(biāo)志著智能座艙技術(shù)邁入全新階段。這款顯卡平臺算力高達(dá)229TOPS,不僅支持多達(dá)8塊獨立顯示屏,更可流暢播放4K高清內(nèi)容,為用戶帶來前所未
    的頭像 發(fā)表于 08-09 14:54 ?830次閱讀