高通宣布了一款專用AI處理器Cloud AI 100，采用7nm工藝，性能比目前業(yè)界最先進的 AI 推理解決方案高出 10 倍以上。

昨天在舊金山舉辦的年度Qualcomm AI Day大會上，高通發(fā)布了三款面向智能手機、平板電腦和其他移動設(shè)備的新系統(tǒng)芯片。此外，更重磅的是，高通還宣布了一款專為邊緣計算設(shè)計的新產(chǎn)品：Qualcomm Cloud AI 100。

高通Cloud AI 100采用7nm工藝，具有高度可擴展性、專為AI推理設(shè)計，將于2020年正式推出產(chǎn)品，樣片將在今年晚些時候推出。

雖然高通尚未公開芯片性能或架構(gòu)方面的細節(jié)，但它聲稱，Cloud AI 100的性能比目前業(yè)界最先進的AI推理解決方案高出10倍以上。

Cloud AI 100集成了一系列開發(fā)工具，包括編譯器、調(diào)試器、分析器、監(jiān)視器、服務(wù)、芯片調(diào)試器和數(shù)字轉(zhuǎn)換器。

此外，Cloud AI 100還致力于支持領(lǐng)先的軟件堆棧，包括ONNX、Glow和XLA，以及各種機器學習框架，包括谷歌的TensorFlow、Facebook的PyTorch、Keras、MXNet、百度的PaddlePaddle和微軟的Cognitive Toolkit。

高通估計Cloud AI 100的峰值性能能達到驍龍855和驍龍820的的3至50倍。

高通聲稱，與傳統(tǒng)的現(xiàn)場可編程門陣列(FPGA)相比，Cloud AI 100在推斷任務(wù)方面的平均速度要快10倍左右。此外，以高性能芯片常用的一個性能指標——每秒tera操作(TOPs)來衡量的話，Cloud AI 100的運算速度可以“遠遠超過”100 TOPs。(相比之下，驍龍855最快只有約7 TOPs。)

高通設(shè)想通過基于臺積電7nm節(jié)點構(gòu)建的Qualcomm Cloud AI 100，為5G提供更低的延遲，并為云和邊緣帶來更高的性能和效率。

“FPGA或GPU通?？梢愿行У剡M行AI推理處理……因為GPU是更并行的，而CPU是更串行的，并行芯片更適合AI處理。”高通產(chǎn)品管理高級副總裁Keith Kressin解釋說：“不過，GPU更多的是為圖形設(shè)計的，如果你從頭開始設(shè)計一個芯片來加速AI，可以得到顯著的改進。從CPU到FPGA或GPU都有數(shù)量級的改進。但定制AI加速器能提供再一個數(shù)量級的改進?！?/p>

挑戰(zhàn)華為、英特爾等，AI推理芯片競爭激烈

在高通進軍云計算之前，其主要競爭對手華為發(fā)布了據(jù)稱是業(yè)界性能最高的基于Arm的處理器“鯤鵬920”。在SPECint(一個由12個程序組成的基準測試套件，用于測試整數(shù)性能)中，該芯片的得分超過了930分，比行業(yè)基準高出近25%，而功耗比“行業(yè)現(xiàn)有廠商提供的”低30%。

華為不是高通唯一的對手。

今年1月在拉斯維加斯舉行的消費電子展上，英特爾詳細介紹了即將推出的Nervana神經(jīng)網(wǎng)絡(luò)處理器(NNP-I)。據(jù)報道，該處理器的AI訓(xùn)練性能將達到競爭顯卡的10倍。

谷歌去年推出了專用推理芯片Edge TPU；阿里巴巴也在去年12月宣布，計劃在今年下半年推出首款自主研發(fā)的AI推理芯片。

在FPGA方面，亞馬遜最近推出了自己的AI云加速芯片——AWS Inferentia。

微軟也在Project Brainwave中預(yù)報了一個類似的平臺。

今年3月，F(xiàn)acebook發(fā)布了用于AI推理的服務(wù)器芯片Kings Canyon。

就在本月，英特爾宣布推出一系列芯片組——Agilex，針對人工智能和大數(shù)據(jù)工作負載進行了優(yōu)化。

但高通對Cloud AI 100的性能優(yōu)勢頗有信心，認為它將在深度學習芯片組市場上占據(jù)優(yōu)勢，預(yù)計到2025年，該市場規(guī)模將達到6630萬美元。

“很多人把網(wǎng)絡(luò)硬件放在云端，就像一個內(nèi)容傳輸網(wǎng)絡(luò)，用于不同類型的處理，無論是云端游戲，還是人工智能處理。這是另一個關(guān)鍵趨勢。高通有機會從終端用戶的輸入技術(shù)一路參與，一直到云端?！盞ressin說。

高通的另一個潛在優(yōu)勢是什么呢？生態(tài)系統(tǒng)的支持。去年11月，高通向一家專注于edge AI和on-device AI的初創(chuàng)基金提供1億美元，特別投入于自動駕駛汽車、機器人、計算機視覺和物聯(lián)網(wǎng)領(lǐng)域。去年5月，高通與微軟合作，為在其許多片上系統(tǒng)芯片中嵌入的AI加速器創(chuàng)建了一個vision AI開發(fā)工具包。

“就市場規(guī)模而言，推理正在成為芯片領(lǐng)域的一個相當大的市場，”Kressin說：“隨著時間的推移，我們預(yù)計推理的規(guī)?！獜?018年至2025年大約會增長10倍。我們非常有信心成為這一領(lǐng)域的領(lǐng)導(dǎo)者。”