一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

IBM開發(fā)新芯片為AI提速:消除片外內存,靈感來自大腦

傳感器專家網(wǎng) ? 來源:澎湃新聞 ? 作者:澎湃新聞 ? 2023-10-23 15:43 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

IBM研發(fā)的北極點(NorthPole)處理器芯片可避開訪問外部存儲器,提高計算能力,節(jié)約能源。

美國加利福尼亞州圣何塞的IBM研究人員開發(fā)了一種以大腦為靈感的計算機芯片,這款北極點處理器芯片消除了頻繁訪問外部存儲器的需要,在圖像識別任務中比現(xiàn)有架構更快,能源消耗更少。這表明計算和內存可以大規(guī)模集成。相關研究10月19日發(fā)表在《科學》雜志。

北極點芯片采用神經推理結構,由簡單計算單元組成的多層陣列通過編程來識別數(shù)據(jù)中的模式。底層接收數(shù)據(jù),例如圖像中的像素;每一個連續(xù)的層檢測日益復雜的模式,并將信息傳遞給下一層;頂層輸出結果,例如可以表示圖像含有貓、汽車或其他物體的可能性。

在傳統(tǒng)馮·諾伊曼架構下,計算和存儲分離。傳統(tǒng)計算機芯片可以有效處理計算,但每次計算時仍然需要使用被稱為RAM的外部存儲器。因此不管處理器運行多快、性能多好,每次執(zhí)行運算時都需要把數(shù)據(jù)從存儲器搬到處理器中,數(shù)據(jù)處理完再搬回到存儲器。在以數(shù)據(jù)為主的AI計算之下,馮·諾伊曼架構的“存儲墻”和“功耗墻”挑戰(zhàn)凸顯。論文合著者、IBM計算機工程師達門德拉·莫達(Dharmendra Modha)表示,他曾估計在這種架構上模擬人類大腦可能需要12個核反應堆的能源輸出。

而北極點芯片使存儲單元在物理上盡可能接近計算單元中的計算元件。北極點芯片由256個計算單元組成,每個計算單元都有內存,通過消除片外內存,將計算與片上內存交織在一起。這些計算單元以一種網(wǎng)絡連接在一起,這種網(wǎng)絡的靈感來自于人類大腦皮層之間的白質連接。

在不使用最先進工藝的情況下,北極點芯片能耗是使用最先進技術的人工智能芯片的1/5。論文作者估計,如果北極點芯片設計采用最先進的制造工藝,其效率將是目前設計的25倍。論文提到,“在ResNet50基準圖像分類網(wǎng)絡上,相對于使用類似12納米技術工藝的GPU, 北極點實現(xiàn)了每瓦FPS(每秒傳輸幀數(shù))的能量度量高25倍,每個晶體管FPS的空間度量高5倍,延遲時間度量低22倍?!?/p>

不過,據(jù)《自然》雜志報道,即使是北極點芯片224兆內存對于大型語言模型來說也是不夠的,比如聊天機器人ChatGPT這樣的語言模型,即使在最精簡的版本中也要占用幾千兆的數(shù)據(jù)。而且該芯片只能運行預先編程的神經網(wǎng)絡,這些神經網(wǎng)絡需要在單獨的機器上提前訓練。但論文作者表示,北極點芯片架構可能在速度關鍵型應用中有用,比如自動駕駛汽車。

審核編輯 黃宇

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 芯片
    +關注

    關注

    459

    文章

    52452

    瀏覽量

    439962
  • 內存
    +關注

    關注

    8

    文章

    3119

    瀏覽量

    75206
  • AI
    AI
    +關注

    關注

    88

    文章

    35008

    瀏覽量

    278737
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    IBM溫網(wǎng)推出AI聊天助手及結果預測功能

    全英草地網(wǎng)球俱樂部和 IBM(紐交所代碼:IBM)近日宣布,將在 2025年溫布爾登網(wǎng)球錦標賽(此后簡稱“溫網(wǎng)”)期間球迷帶來全新的增強型 AI 數(shù)字體驗。這包括首次亮相的交互式
    的頭像 發(fā)表于 06-27 09:23 ?330次閱讀

    IBM如何基于SAP平臺和數(shù)據(jù)推動生成式AI的成功應用

    “近日,IBM 商業(yè)價值研究院(IBV)與 SAP 研究洞察中心聯(lián)合開展了一項大規(guī)模調研,覆蓋全球 1200余位全球企業(yè)高管,其中 200位來自大中華區(qū),以深入洞察組織如何基于 SAP 平臺和數(shù)據(jù)推動生成式 AI 的成功應用。
    的頭像 發(fā)表于 04-17 10:20 ?456次閱讀

    首創(chuàng)開源架構,天璣AI開發(fā)套件讓端側AI模型接入得心應手

    套件2.0,打造了一整套圍繞AI開發(fā)效率與落地路徑展開的“系統(tǒng)性解法”,開發(fā)者提供了AI應用開發(fā)
    發(fā)表于 04-13 19:52

    IBM攜手英偉達AI數(shù)據(jù)平臺推動企業(yè)級AI創(chuàng)新

    近日,IBM(紐約證券交易所:IBM)宣布與英偉達(納斯達克股票代碼:NVDA)開展全新合作,雙方將基于英偉達 AI 數(shù)據(jù)平臺參考架構(reference architecture)進行產品集成
    發(fā)表于 03-24 19:20 ?225次閱讀

    AI開發(fā)板】正點原子K230D BOX開發(fā)板來了!一款性能強悍且小巧便攜的AI開發(fā)板!

    和眾多接口,同時,開發(fā)板還板載了大容量的運行內存和存儲,這開發(fā)板提供了豐富的應用場景!正點原子K230D BOX開發(fā)板支持CanMV
    發(fā)表于 02-18 16:56

    IBM CEO:DeepSeek將加速AI技術采用

    在迪拜舉行的世界政府峰會上,IBM首席執(zhí)行官Arvind Krishna發(fā)表了對人工智能(AI)技術發(fā)展的重要見解。他指出,隨著DeepSeek等新興企業(yè)的崛起,開發(fā)AI模型的成本估算
    的頭像 發(fā)表于 02-12 11:40 ?548次閱讀

    IBM企業(yè)級AI開發(fā)平臺watsonx.ai上線DeepSeek R1蒸餾模型

    IBM日前宣布,DeepSeek-R1 的 Llama 3.1 8B 和 Llama 3.3 70b 蒸餾版本現(xiàn)已在 IBM 的企業(yè)級 AI 開發(fā)平臺 watsonx.
    的頭像 發(fā)表于 02-12 10:02 ?430次閱讀

    IBM攜手歐萊雅開發(fā)首個可持續(xù)化妝品AI模型

    的關鍵洞察,幫助歐萊雅使用可持續(xù)的原材料,從而減少能源和材料浪費。雙方將開發(fā)定制的AI 基礎模型,以顯著提高歐萊雅研發(fā)與創(chuàng)新團隊的能力,助力公司在各類化妝品和全球范圍內進一步提升業(yè)績和消費者滿意度。這一基于化妝品配方的基礎模型
    的頭像 發(fā)表于 01-21 09:22 ?678次閱讀

    SK海力士增產HBM DRAM,應對AI芯片市場旺盛需求

    SK海力士今年計劃大幅提升其高帶寬內存(HBM)的DRAM產能,目標是將每月產能從去年的10萬增加至17萬,這一增幅達到了70%。此舉被視為該公司對除最大客戶英偉達,其他領先人工
    的頭像 發(fā)表于 01-07 16:39 ?678次閱讀

    SK海力士新設AI芯片開發(fā)與量產部門

    韓國存儲芯片巨頭SK海力士于近日宣布,鞏固其在人工智能(AI)內存領域的領先地位,公司決定在年度組織調整中新增兩個專門部門,專注于下一代AI
    的頭像 發(fā)表于 12-06 10:56 ?717次閱讀

    AI提速,墨云藏境系列DDR5實測體驗

    自大語言模型ChatGPT問世以來,人工智能(AI)技術迎來了爆發(fā)式增長。在被譽為AI應用元年的2024年中,與AI相關的軟、硬件產品不斷創(chuàng)新推出,影響力也正逐漸滲透至各行各業(yè)及日常生
    的頭像 發(fā)表于 10-30 14:13 ?570次閱讀
    <b class='flag-5'>為</b><b class='flag-5'>AI</b><b class='flag-5'>提速</b>,墨云藏境系列DDR5實測體驗

    IBM推出高性能AI模型Granite 3.0

    在近日舉行的IBM年度TechXchange大會上,IBM正式推出了其最先進的AI模型家族——Granite 3.0。這款旗艦級語言模型代表了IBM
    的頭像 發(fā)表于 10-28 17:39 ?812次閱讀

    IBM Cloud將部署英特爾Gaudi 3 AI芯片

    近日,科技巨頭IBM與英特爾宣布了一項重大合作計劃,雙方將共同在IBM Cloud平臺上部署英特爾最新的Gaudi 3 AI芯片,預計該服務將于2025年初正式上線。此次合作標志著兩家
    的頭像 發(fā)表于 09-03 15:52 ?647次閱讀

    IBM進入中國市場四十年,攜手共贏新的AI時代

    中國合作伙伴招募負責人羅昕、IBM 中國合作伙伴技術支持負責人徐建光從企業(yè)戰(zhàn)略、渠道政策、全棧技術和應用場景等維度,IBM 校友” 們重新介紹了“今天的 IBM”,并分享了新的
    的頭像 發(fā)表于 08-16 11:22 ?1108次閱讀

    IBM助力圖靈新智算構建全能AI平臺

    和watsonx.governance,以及 IBM 企業(yè)級 AI 數(shù)字助理軟件 watsonx Assistant 和 AI 文檔理解與分析軟件 Watson Discovery, 構建全能的
    的頭像 發(fā)表于 08-02 14:53 ?1036次閱讀