盡管相當(dāng)數(shù)量的人工智能服務(wù)，是由云計(jì)算網(wǎng)絡(luò)提供，但在響應(yīng)低延遲、保護(hù)隱私、應(yīng)用場景等方面，手機(jī)AI芯片無可替代。例如人臉解鎖，圖像增強(qiáng)、識別，智能助手，拍照場景識別，這些你我每天都會接觸的功能，離不開手機(jī)神經(jīng)引擎的加持。

AI-Benchmark測評

AI-Benchmark是蘇黎世聯(lián)邦理工學(xué)院（ETH Zürich）計(jì)算機(jī)視覺實(shí)驗(yàn)室Andrey Ignatov開發(fā)的AI基準(zhǔn)測試程序，它不依賴于每個SoC供應(yīng)商自己的SDK工具和API基準(zhǔn)，能更客觀地展示終端性能。

其測試任務(wù)包括以下9項(xiàng)（http://ai-benchmark.com/tests.html）：

目標(biāo)識別/分類：這是一個非?；A(chǔ)但很強(qiáng)大的神經(jīng)網(wǎng)絡(luò)，能夠基于一張照片識別1000個不同的對象類別，準(zhǔn)確率約為70%。經(jīng)過量化，其大小可小于 5MB，再加上低耗內(nèi)存，可在幾乎所有現(xiàn)有智能手機(jī)上使用。

精確目標(biāo)識別/分類：這是對上一個網(wǎng)絡(luò)的進(jìn)一步擴(kuò)展，更加精確，但代價(jià)是規(guī)模是原來的4倍，且對計(jì)算的要求較高。一個明顯的優(yōu)勢是——它可以處理分辨率更高的圖像，這意味著更精確的識別和更小目標(biāo)的檢測。

人臉識別：實(shí)現(xiàn)方式為，對于每個人臉圖像，神經(jīng)網(wǎng)絡(luò)會對人臉編碼并生成128維的特征向量，該特征向量不隨縮放、移動或旋轉(zhuǎn)而改變。然后在數(shù)據(jù)庫中檢索和此向量最匹配的特征向量（以及對應(yīng)的身份），數(shù)據(jù)庫里包含數(shù)億個此類信息。

圖像去模糊：模糊是通過一種最原始、最簡單、最輕量級的神經(jīng)網(wǎng)絡(luò) SRCNN（只有 3 個卷積層）去除的。即便如此，它仍然顯示出相當(dāng)令人滿意的結(jié)果。

圖像超分辨率：使用一個19層的VGG-19網(wǎng)絡(luò)。盡管目前來看，該網(wǎng)絡(luò)的表現(xiàn)并不驚艷，也不能重建高頻部分。但它對于繪畫仍是理想的解決方案，因?yàn)樵摼W(wǎng)絡(luò)可以讓圖像變得更加清晰、平滑。

另一種圖像超分辨率：任務(wù)同上，但完成方法略有不同，如果使用其他神經(jīng)網(wǎng)絡(luò)訓(xùn)練我們的神經(jīng)網(wǎng)絡(luò)會如何？我們安排兩個網(wǎng)絡(luò)去完成兩個不同的任務(wù)：網(wǎng)絡(luò)嘗試解決上面提到的超分辨率問題，網(wǎng)絡(luò)B觀察其結(jié)果，嘗試找到其中的缺陷并懲罰網(wǎng)絡(luò)A。

語義圖像分割：根據(jù)車載攝像頭拍攝的照片檢測19類目標(biāo)（如車、行人、路、天空等）。

圖像增強(qiáng)：經(jīng)過恰當(dāng)訓(xùn)練的神經(jīng)網(wǎng)絡(luò)可以讓舊手機(jī)上的照片看起來更時髦。

內(nèi)存極限：任務(wù)4使用的SRCNN是最輕便、簡單的神經(jīng)網(wǎng)絡(luò)之一，這項(xiàng)測試的目的是找到設(shè)備的極限，即這個最簡易的網(wǎng)絡(luò)到底能處理多大的圖像。

一騎絕塵 or 不分勝負(fù)

在剛出爐的2019年2月排行中，高通驍龍855位列榜首,緊隨其后是聯(lián)發(fā)科Helio P90處理器。而華為最強(qiáng)手機(jī)處理器麒麟980（去年9月發(fā)布），在這項(xiàng)測試中，已被驍龍855大幅甩開35%。

驍龍855（總分19769）對浮點(diǎn)和量化神經(jīng)網(wǎng)絡(luò)都能提供出色的硬件加速——前者依靠Adreno 640 GPU，而量化網(wǎng)絡(luò)則運(yùn)行在Hexagon 690 DSP中。這種組合省略了AI獨(dú)立運(yùn)算單元，依舊是傳統(tǒng)的CPU/GPU及DSP/ISP兼職處理AI任務(wù)。這種設(shè)計(jì)思路，令SoC更小巧，也更容易開發(fā)，但原本用于圖形任務(wù)設(shè)計(jì)的GPU，在更遠(yuǎn)的未來可能會觸及架構(gòu)瓶頸，難免還要面對芯片架構(gòu)的一次大調(diào)整。

芯片之爭既是長跑，也是沖刺。

關(guān)于量化網(wǎng)絡(luò)

開發(fā)神經(jīng)網(wǎng)絡(luò)時最大的挑戰(zhàn)是讓其真正起效，訓(xùn)練一般希望速度快準(zhǔn)確率高。使用浮點(diǎn)算法是保持結(jié)果精確最簡單的方式——GPU擁有加速浮點(diǎn)算法庫，所以不需要過多關(guān)注其他數(shù)值格式。

而隨著大量神經(jīng)網(wǎng)絡(luò)模型投入實(shí)際應(yīng)用。訓(xùn)練計(jì)算需求隨研究者數(shù)目線性增長，預(yù)測所需的周期與用戶數(shù)目成正比。這意味著純預(yù)測效率迫在眉睫。

這就是量化神經(jīng)網(wǎng)絡(luò)的用武之地：量化網(wǎng)絡(luò)最初的動機(jī)是減小模型文件尺寸，在模型載入后仍然轉(zhuǎn)換回浮點(diǎn)數(shù)，這樣你已有的浮點(diǎn)計(jì)算代碼無需改動即可正常運(yùn)行，另一個量化的動機(jī)是降低預(yù)測過程的計(jì)算資源需求。

雖然只是中端芯片，但聯(lián)發(fā)科P90（總分18231）的實(shí)際AI性能，幾乎與驍龍旗艦處理器不分伯仲（雖然P90理論GMAC參數(shù)占下風(fēng)），它采用了獨(dú)立的AI芯片——其設(shè)計(jì)來自GPU“魔改”，以優(yōu)化深度學(xué)習(xí)任務(wù)。與競爭對手相比，這款芯片的不足在于CPU性能弱了30%，GPU也差強(qiáng)人意。

華為麒麟980（總分14646）發(fā)布已近半年，雖然賬面成績遜一籌，但值得指出的是，它的浮點(diǎn)性能與兩個對手不分勝負(fù)，這意味著運(yùn)行浮點(diǎn)神經(jīng)網(wǎng)絡(luò)任務(wù)，亦相差無幾——這是當(dāng)下AI研究和開發(fā)的主流技術(shù)，而且每個網(wǎng)絡(luò)架構(gòu)，都能以浮點(diǎn)模型訓(xùn)練。反之則不然，能轉(zhuǎn)換為量化模型的網(wǎng)絡(luò)較少，且常常伴隨著準(zhǔn)確度大幅下降。所以在2019年初，華為麒麟980仍算強(qiáng)大。

回顧歷史，早在2004年，華為開始組建手機(jī)芯片研發(fā)隊(duì)伍，經(jīng)過5年研發(fā)，到2009年，才拿出第一款海思K3。到2014年初，推出麒麟910，首次采用28nm制程，才有自己的名聲。整個2014年，華為不停的迭代，一共發(fā)布了6款芯片，終于有了長足進(jìn)步。

再到2015年11月，麒麟950 SoC發(fā)布，采用16nm FinFET Plus工藝，勉強(qiáng)追上高通。而在950之后，華為又在2016年發(fā)布了960，2017年發(fā)布970，再到2018年7月發(fā)布710、8月發(fā)布980，終于開始領(lǐng)跑——之后的一個季度，華為麒麟970/980家族幾乎壟斷了AI-Benchmark商用設(shè)備榜單。

那么，目前地表最強(qiáng)的移動AI處理器最終花落驍龍855？隔壁蘋果家的A12X Bionic可能并不同意（AI-Benchmark目前只支持Android平臺）。