在今年的 Hot Chips 2017 會議上,微軟推出基于 FPGA 的超低延遲計算平臺 Brainwave,用于在云端加速深度學(xué)習(xí)。該平臺采用英特爾 Stratix 10 FPGA,經(jīng)測試得出,Brainwave 不需要任何 batching 就能在大型 GRU(Gated recurrent unit)上達到 39.5 Teraflops 的性能。
微軟將 DPU 或者 DNN 處理單元合并到 FPGA 中,希望通過加強深度學(xué)習(xí)網(wǎng)絡(luò)的研究,更快地適應(yīng)其云服務(wù)基礎(chǔ)設(shè)施建設(shè),以應(yīng)對接近于實時的運算處理需求。
同樣是在 Hot Chips 大會上,百度發(fā)布一款 256 核、基于 FPGA 的云計算加速芯片 XPU,其合作伙伴是著名 FPGA 廠商 Xilinx。XPU 的目標是在性能和效率之間實現(xiàn)平衡,處理多樣化的計算任務(wù),而 FPGA 本身就擅長于處理某些特定的計算。
百度研究員歐陽劍表示:「FPGA 是高效的,可以專注于特定計算任務(wù)。傳統(tǒng) CPU 擅長通用計算任務(wù),尤其是基于規(guī)則的計算任務(wù),同時非常靈活。GPU 瞄準了并行計算,因此有很強大的性能,XPU 則專注于計算密集型、基于多規(guī)則的多樣化計算任務(wù),提高效率和性能,并帶來類似 CPU 的靈活性?!?/span>
近兩年隨著人工智能浪潮的到來,讓有些冷門 FPGA 又重新煥發(fā)了生機,其實各大科技廠商很早就發(fā)現(xiàn)了 FPGA 在 AI 領(lǐng)域所擁有的優(yōu)勢,并開始布局。
微軟在 Hot Chips 上展示 Brainwave
早在2015 年,微軟就提出了一種使用 FPGA 加速 Bing 搜索引擎的方案,這些 CPU + FPGA 混合器在當年便投入了生產(chǎn)和布置,用以加速 Bing 的頁面排名功能。去年,亞馬遜 AWS 也推出了基于 FPGA 的云服務(wù) EC2 F1。事實上,百度、阿里云、騰訊云等巨頭也相繼推出了 FPGA 云服務(wù)。
FPGA 之所以普遍受到業(yè)界的關(guān)注,是源于 2015 年英特爾有史以來最大的一筆收購案 —— 以 167 億美元的價格收購 FPGA 大廠 Altera。英特爾判斷, 2020 年 CPU + FPGA 的異構(gòu)計算將占據(jù)運輸局中心市場的三分之一。
和傳統(tǒng)的 CPU 、GPU 相比,F(xiàn)PGA 無指令、無需共享內(nèi)存的體系結(jié)構(gòu)可以擁有更高的計算效率,在處理類似矩陣運算、圖像處理、機器學(xué)習(xí)、壓縮、Bing 搜索排序等計算密集型任務(wù)中有相當優(yōu)秀的表現(xiàn)。另外,F(xiàn)PGA 擁有更低的功耗,百度在線上服務(wù)使用的 FPGA 版百度大腦,在同樣的功耗下,其性能是天河二號超級計算機的十倍以上。
摩爾定律已經(jīng)不再符合現(xiàn)今技術(shù)的發(fā)展狀態(tài),而機器學(xué)習(xí)和 Web 服務(wù)的規(guī)模卻以指數(shù)級增長,技術(shù)和行業(yè)的快速發(fā)展,對處理器提出了可被重新編程以適應(yīng)新類型計算任務(wù)的要求,F(xiàn)PGA 正是這樣一種可以重構(gòu)的體系結(jié)構(gòu),而這也是各科技巨頭如此看重 FPGA 的原因。
-
FPGA
+關(guān)注
關(guān)注
1645文章
22041瀏覽量
618225 -
gpu
+關(guān)注
關(guān)注
28文章
4943瀏覽量
131209 -
AI
+關(guān)注
關(guān)注
88文章
35093瀏覽量
279533 -
人工智能
+關(guān)注
關(guān)注
1806文章
49008瀏覽量
249313 -
機器學(xué)習(xí)
+關(guān)注
關(guān)注
66文章
8501瀏覽量
134580
原文標題:CPU+GPU 搞不定的機器學(xué)習(xí)問題,微軟和百度都采用 FPGA 解決
文章出處:【微信號:shenzhenware,微信公眾號:深圳灣】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
百度地圖重磅發(fā)布地圖AI開放平臺
百度文心大模型X1 Turbo獲得信通院當前大模型最高評級證書

百度發(fā)布文心4.5 Turbo、X1 Turbo和多款AI應(yīng)用
百度在AI領(lǐng)域的最新進展
FPGA+AI王炸組合如何重塑未來世界:看看DeepSeek東方神秘力量如何預(yù)測......
百度AI手語數(shù)字人助力聽障人士“聽見”聲音
當我問DeepSeek AI爆發(fā)時代的FPGA是否重要?答案是......
fpga和cpu的區(qū)別 芯片是gpu還是CPU
百度文庫AI功能用戶量飆升,“自由畫布”公測啟動
FPGA+GPU+CPU國產(chǎn)化人工智能平臺

評論