一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

為大家介紹促進(jìn)存算一體芯片快速發(fā)展的各類原因

后摩智能 ? 來源:后摩智能 ? 作者:日就月將的 ? 2022-10-19 14:30 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

作為后摩爾時(shí)代突破芯片性能瓶頸的主流技術(shù)方向之一,存算一體正在被更多人關(guān)注和認(rèn)可。

存算一體直接將數(shù)據(jù)存儲(chǔ)單元和計(jì)算單元融合為一體,能夠大幅減少數(shù)據(jù)搬運(yùn)帶來的功耗損失,同時(shí),也減少了等待數(shù)據(jù)讀取時(shí)的算力浪費(fèi),極大提高了計(jì)算并行度和能效。這一架構(gòu)設(shè)計(jì)直接打破“存儲(chǔ)墻”和“功耗墻”,可以從根本上解決馮·諾伊曼的架構(gòu)瓶頸。

存算一體的概念并不難理解,這一設(shè)計(jì)思路的出現(xiàn)甚至可以追溯到20 世紀(jì) 60 年代。但直至最近幾年,存算一體才真正從概念走向產(chǎn)品。此前,為什么存算一體沒有被業(yè)內(nèi)廣泛應(yīng)用?

Q?

存算一體為什么之前沒有被廣泛應(yīng)用?

實(shí)際上,“存算一體”并非橫空出世的新鮮事物,設(shè)計(jì)人員很早就有了存算一體的設(shè)計(jì)思路,從上世紀(jì)70年代就一直持續(xù)有相關(guān)的研究工作在發(fā)表。

69fe642e-4f76-11ed-a3b6-dac502259ad0.png

圖1. 相關(guān)文獻(xiàn)整理

但是,這方面工作一直不溫不火,直到2012年后又逐漸受到學(xué)術(shù)界和工業(yè)界的重視,主要原因可以概括為幾個(gè)方面:

1)處理器計(jì)算吞吐和內(nèi)存帶寬差距增大。早期處理器的計(jì)算吞吐和內(nèi)存帶寬的差距并不明顯,但是隨著 CMOS 工藝的快速發(fā)展、以及多核/眾核處理器架構(gòu)成為主流,處理器的計(jì)算吞吐能力增長的速度遠(yuǎn)超內(nèi)存帶寬的增長速度。因此,存儲(chǔ)墻的問題愈發(fā)嚴(yán)重;

2)應(yīng)用訪存數(shù)據(jù)量增大、數(shù)據(jù)局部性變差。傳統(tǒng)的處理器設(shè)計(jì)通過增加多級(jí)的片上緩存(cache)來緩解內(nèi)存帶寬不足的問題,但是由于深度學(xué)習(xí)、圖計(jì)算、推薦系統(tǒng)等大數(shù)據(jù)應(yīng)用的訪存數(shù)據(jù)量愈來愈大、數(shù)據(jù)局部性變差,導(dǎo)致處理器的緩存架構(gòu)難以發(fā)揮作用;

3)新興應(yīng)用包含大量、可并行的、乘累加計(jì)算。以深度學(xué)習(xí)應(yīng)用為例,主流模型80%以上的計(jì)算都是可并行的乘累加(MAC)操作,面向這類“簡(jiǎn)單”的操作,使得計(jì)算單元和存儲(chǔ)單元的深度融合(即CIM),無論以數(shù)字還是模擬方式都變得可行;

4)STT-MRAM、RRAM 等新型存儲(chǔ)器的發(fā)展。一方面,新型存儲(chǔ)器有潛力提升片上存儲(chǔ)的密度,從而緩解存儲(chǔ)墻的問題。另一方面,這類新型存儲(chǔ)器為 MAC 計(jì)算單元和存儲(chǔ)單元的融合提供了新的機(jī)遇;

5)領(lǐng)域定制計(jì)算架構(gòu)的興起。最后值得一提的是,隨著摩爾定律的放緩,領(lǐng)域定制計(jì)算架構(gòu)的優(yōu)勢(shì)愈發(fā)明顯,而存算一體正是一種適合AI、圖計(jì)算、推薦系統(tǒng)等領(lǐng)域的定制計(jì)算架構(gòu)。

未來將是存算一體應(yīng)用的爆發(fā)期,將會(huì)被廣泛應(yīng)用。但是我們也認(rèn)為存算一體架構(gòu)并不會(huì)全面取代現(xiàn)有架構(gòu)的 AI 芯片(如GPU等),而是會(huì)長期共存,不同的架構(gòu)有各自更加擅長的場(chǎng)景,多樣化架構(gòu)的并存,甚至異構(gòu)結(jié)合、優(yōu)勢(shì)互補(bǔ),才是更加更合理的情形。選擇架構(gòu)需要綜合考慮應(yīng)用場(chǎng)景、模型數(shù)量/功能/大小、存儲(chǔ)工藝、集成方式、計(jì)算精度等多方面因素,具體分析可以參考前述幾問的闡述。





審核編輯:劉清

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 處理器
    +關(guān)注

    關(guān)注

    68

    文章

    19896

    瀏覽量

    235258
  • CMOS
    +關(guān)注

    關(guān)注

    58

    文章

    6025

    瀏覽量

    238889
  • 存儲(chǔ)器
    +關(guān)注

    關(guān)注

    38

    文章

    7653

    瀏覽量

    167413
  • CIM
    CIM
    +關(guān)注

    關(guān)注

    1

    文章

    88

    瀏覽量

    15801

原文標(biāo)題:存算十問|(六)存算一體為什么之前沒有被廣泛應(yīng)用?

文章出處:【微信號(hào):后摩智能,微信公眾號(hào):后摩智能】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    緩解高性能一體芯片IR-drop問題的軟硬件協(xié)同設(shè)計(jì)

    在高性能計(jì)算與AI芯片領(lǐng)域,基于SRAM的一體(Processing-In-Memory, PIM)架構(gòu)因兼具計(jì)算密度、能效和精度優(yōu)勢(shì)成為主流方案。隨著
    的頭像 發(fā)表于 07-11 15:11 ?150次閱讀
    緩解高性能<b class='flag-5'>存</b><b class='flag-5'>算</b><b class='flag-5'>一體</b><b class='flag-5'>芯片</b>IR-drop問題的軟硬件協(xié)同設(shè)計(jì)

    蘋芯科技 N300 一體 NPU,開啟端側(cè) AI 新征程

    隨著端側(cè)人工智能技術(shù)的爆發(fā)式增長,智能設(shè)備對(duì)本地力與能效的需求日益提高。而傳統(tǒng)馮·諾依曼架構(gòu)在數(shù)據(jù)處理效率上存在瓶頸,“內(nèi)存墻”問題成為制約端側(cè)AI性能突破的關(guān)鍵掣肘。在這背景下,
    的頭像 發(fā)表于 05-06 17:01 ?473次閱讀
    蘋芯科技 N300 <b class='flag-5'>存</b><b class='flag-5'>算</b><b class='flag-5'>一體</b> NPU,開啟端側(cè) AI 新征程

    【「芯片通識(shí)課:本書讀懂芯片技術(shù)」閱讀體驗(yàn)】從deepseek看今天芯片發(fā)展

    和計(jì)算是分開的。一體化是近年來計(jì)算技術(shù)上的重大創(chuàng)新。 現(xiàn)如今的npu,如rk3588上的版本,力已經(jīng)達(dá)到6TOPS,足以運(yùn)行眼下最流行的DeepSeek(1.5B版本)!筆者移植
    發(fā)表于 04-02 17:25

    PIMCHIP S300 全球首款28nm節(jié)點(diǎn)實(shí)現(xiàn)存一體產(chǎn)品化AI芯片

    PIMCHIP-S300 芯片是蘋芯科技基于一體技術(shù)打造的多模態(tài)智慧感知決策 AI 芯片。其搭載基于靜態(tài)隨機(jī)存取存儲(chǔ)器(SRAM)的
    的頭像 發(fā)表于 03-28 17:06 ?1089次閱讀
    PIMCHIP S300 全球首款28nm節(jié)點(diǎn)實(shí)現(xiàn)存<b class='flag-5'>算</b><b class='flag-5'>一體</b>產(chǎn)品化AI<b class='flag-5'>芯片</b>

    濟(jì)南市中區(qū)一體化智中心上線DeepSeek

    濟(jì)南市中未來產(chǎn)業(yè)發(fā)展有限公司(簡(jiǎn)稱“市中產(chǎn)發(fā)”)聯(lián)合華為、北京昇騰和清昴智能基于市中區(qū)一體化智中心(國家大學(xué)科技園節(jié)點(diǎn))昇騰
    的頭像 發(fā)表于 02-19 10:38 ?730次閱讀

    梯度科技推出DeepSeek智一體機(jī)

    近日,梯度科技搭載DeepSeek大模型的智一體機(jī)正式發(fā)布。該產(chǎn)品基于“國產(chǎn)服務(wù)器+國產(chǎn)GPU+自主算法”核心架構(gòu),搭載梯度科技人工智能應(yīng)用開發(fā)平臺(tái),形成了軟硬一體解決方案。
    的頭像 發(fā)表于 02-17 09:53 ?823次閱讀

    一體行業(yè)2024年回顧與2025年展望

    2024年,大模型技術(shù)的迅猛發(fā)展成為人工智能領(lǐng)域的核心驅(qū)動(dòng)力,其對(duì)硬件力和存儲(chǔ)效率的極致需求,促使一體技術(shù)在全球范圍內(nèi)迎來前所未有的關(guān)
    的頭像 發(fā)表于 01-23 11:24 ?1086次閱讀

    于芯 · 智啟未來 — 2024蘋芯科技產(chǎn)品發(fā)布會(huì)盛大召開

    8月8日,國際領(lǐng)先的一體芯片開拓者——蘋芯科技在北京召開“于芯智啟未來——2024蘋芯科
    的頭像 發(fā)表于 12-18 15:31 ?1642次閱讀
    <b class='flag-5'>存</b><b class='flag-5'>算</b>于芯 · 智啟未來 — 2024蘋芯科技產(chǎn)品發(fā)布會(huì)盛大召開

    開源芯片系列講座第24期:基于SRAM的高效計(jì)算架構(gòu)

    鷺島論壇開源芯片系列講座第24期「基于SRAM的高效計(jì)算架構(gòu)」明晚(27日)20:00精彩開播期待與您云相聚,共襄學(xué)術(shù)盛宴!|直播信息報(bào)告題目基于SRAM
    的頭像 發(fā)表于 11-27 01:05 ?872次閱讀
    開源<b class='flag-5'>芯片</b>系列講座第24期:基于SRAM<b class='flag-5'>存</b><b class='flag-5'>算</b>的高效計(jì)算架構(gòu)

    直播預(yù)約 |開源芯片系列講座第24期:SRAM一體:賦能高能效RISC-V計(jì)算

    鷺島論壇開源芯片系列講座第24期「SRAM一體:賦能高能效RISC-V計(jì)算」11月27日(周三)20:00精彩開播期待與您云相聚,共襄學(xué)術(shù)盛宴!|直播信息報(bào)告題目SRAM
    的頭像 發(fā)表于 11-16 01:10 ?722次閱讀
    直播預(yù)約 |開源<b class='flag-5'>芯片</b>系列講座第24期:SRAM<b class='flag-5'>存</b><b class='flag-5'>算</b><b class='flag-5'>一體</b>:賦能高能效RISC-V計(jì)算

    一體化與邊緣計(jì)算:重新定義智能計(jì)算的未來

    、人工智能(AI)等技術(shù)的發(fā)展,數(shù)據(jù)量的分布性、實(shí)時(shí)性需求增加,邊緣計(jì)算也逐漸從概念走向落地。本文將介紹一體化與邊緣計(jì)算的核心思想及其
    的頭像 發(fā)表于 11-12 01:05 ?836次閱讀
    <b class='flag-5'>存</b><b class='flag-5'>算</b><b class='flag-5'>一體</b>化與邊緣計(jì)算:重新定義智能計(jì)算的未來

    一體架構(gòu)創(chuàng)新助力國產(chǎn)大力AI芯片騰飛

    在灣芯展SEMiBAY2024《AI芯片與高性能計(jì)算(HPC)應(yīng)用論壇》上,億鑄科技高級(jí)副總裁徐芳發(fā)表了題為《一體架構(gòu)創(chuàng)新助力國產(chǎn)大
    的頭像 發(fā)表于 10-23 14:48 ?878次閱讀

    科技新突破:首款支持多模態(tài)一體AI芯片成功問世

    一體介質(zhì),通過存儲(chǔ)單元和計(jì)算單元的深度融合,采用22nm成熟工藝制程,有效把控制造成本。與傳統(tǒng)架構(gòu)下的AI芯片相比,該款芯片
    發(fā)表于 09-26 13:51 ?669次閱讀
    科技新突破:首款支持多模態(tài)<b class='flag-5'>存</b><b class='flag-5'>算</b><b class='flag-5'>一體</b>AI<b class='flag-5'>芯片</b>成功問世

    后摩智能首款一體智駕芯片獲評(píng)突出創(chuàng)新產(chǎn)品獎(jiǎng)

    近日,2024年6月29日,由深圳市汽車電子行業(yè)協(xié)會(huì)主辦的「第十三屆國際汽車電子產(chǎn)業(yè)峰會(huì)暨2023年度汽車電子科學(xué)技術(shù)獎(jiǎng)?lì)C獎(jiǎng)典禮」在深圳寶安隆重舉行。后摩智能首款一體智駕芯片——后
    的頭像 發(fā)表于 09-24 16:51 ?899次閱讀

    蘋芯科技引領(lǐng)存一體技術(shù)革新 PIMCHIP系列芯片重塑AI計(jì)算新格局

    一體NPU和PIMCHIP-S300多模態(tài)智能感知芯片,以前沿技術(shù)加持AI與大模型推理加速等各類計(jì)算任務(wù)場(chǎng)景,高能效力應(yīng)用開啟新紀(jì)元。?
    發(fā)表于 08-08 17:21 ?403次閱讀
    蘋芯科技引領(lǐng)存<b class='flag-5'>算</b><b class='flag-5'>一體</b>技術(shù)革新   PIMCHIP系列<b class='flag-5'>芯片</b>重塑AI計(jì)算新格局