當前我們討論人工智能（AI）大部分都是講的云端智能，在云端針對數(shù)據(jù)做訓練、加速，數(shù)據(jù)處理和決策也是在云端進行。隨著人們對于身邊事物的智能化要求越來越高，尤其是物聯(lián)網(wǎng)產(chǎn)業(yè)進入規(guī)?；涞氐某跗?，更多的數(shù)據(jù)和決策需要在邊緣側(cè)進行，也就是我們常說的解決人工智能“最后一公里”的問題。

邊緣智能處理的優(yōu)勢在于減少延遲，全網(wǎng)絡覆蓋，增加了隱私和安全性，并減少了與云端的通信，從而降低了成本。芯片的Ensigma系列IP產(chǎn)品，以及用于人工智能芯片的神經(jīng)網(wǎng)絡加速器（NNA）IP產(chǎn)品。

Imagination Technologies是全球半導體知識產(chǎn)權(quán)（IP）提供商，其核心產(chǎn)品包括用于各種數(shù)字消費性電子產(chǎn)品和系統(tǒng)所用芯片的PowerVR圖形處理器（GPU）IP產(chǎn)品、用于物聯(lián)網(wǎng)連接在GTIC 2019全球AI芯片創(chuàng)新峰會上，Imagination Technologies視覺及AI部門高級總監(jiān) Andrew Grant指出，采用神經(jīng)網(wǎng)絡加速能夠賦能邊緣智能部署。

Imagination Technologies視覺及AI部門高級總監(jiān)

Andrew Grant

神經(jīng)網(wǎng)絡加速+GPU能夠提供強有力的算力

隨著人工智能和物聯(lián)網(wǎng)進程的不斷深入，各種各樣的智能應用對于算力的要求越來越高。當算法完善，數(shù)據(jù)已經(jīng)就位的時候，算力已經(jīng)成為越來越多人工智能實現(xiàn)的痛點。尤其是物聯(lián)網(wǎng)時代的邊緣計算，很多數(shù)據(jù)需要在邊緣側(cè)得到及時的處理，并作出決策，對算力提出了更高的要求。Andrew以汽車的自動駕駛為例，每一臺自動駕駛汽車都需要處理攝像頭和雷達等接收到的信息，需要區(qū)別車輛、行人（尤其是兒童）、障礙物等，同時需要處理V2X的信息，再加上和云端的互聯(lián)互通，汽車實現(xiàn)自動駕駛需要驚人的算力支持。

Andrew更具體地說，ADAS系統(tǒng)如果要達到實現(xiàn)行人預測的能力需要有超過100GFLOPS的算力，實現(xiàn)level 3級別的自動駕駛需要10TOPS的算力，要實現(xiàn)level 5級別的自動駕駛則需要500+TOPS的算力支撐。

因此，在自動駕駛汽車這個需要邊緣智能的代表性產(chǎn)品中，在走向level 5級別自動駕駛的過程中，每一步所需要的算力都很大?？梢哉f，足夠的算力是實現(xiàn)邊緣智能的必要條件。

通過多年的投資研發(fā)，Imagination Technologies在產(chǎn)品性能方面取得了突破性的進展。2017年9月21日，Imagination Technologies發(fā)布了采用專用PowerVR架構(gòu)來打造的PowerVR Series2NX神經(jīng)網(wǎng)絡加速器（NNA）IP，此款I(lǐng)P產(chǎn)品可以用在各種人工智能芯片設計之中，并在面積效率、運算性能以及功耗等方面相較于友商產(chǎn)品都有絕對的優(yōu)勢。

在成功推出PowerVR 2NX NNA IP產(chǎn)品之后，Imagination Technologies在人工智能領(lǐng)域并未停止了腳步。2018年12月，Imagination Technologies在英國和中國同時再次宣布推出其面向更先進人工智能應用的最新神經(jīng)網(wǎng)絡加速器（NNA）架構(gòu)PowerVR Series3NX。PowerVR Series3NX是Imagination Technologies專門用于神經(jīng)網(wǎng)絡計算而設計的硬件加速器。

單個Series3NX內(nèi)核的性能可從0.6到10萬億次操作/秒（TOPS），同時其多核實現(xiàn)可擴展到160TOPS以上。得益于包括無損權(quán)重壓縮等架構(gòu)性增強，Series3NX架構(gòu)的性能可在相同的芯片面積上較上一代產(chǎn)品提升40%，使SoC制造商可在性能效率方面提高近60%，且?guī)捫枨蠼档土?5%。

作為Series3NX架構(gòu)的一部分，Imagination Technologies還發(fā)布了PowerVR Series3NX-F（Flexible）半導體知識產(chǎn)權(quán)（IP）配置，以提供前所未有的功能性和靈活性平衡，同時還結(jié)合了行業(yè)領(lǐng)先的性能。采用Series3NX-F的客戶可以通過OpenCL框架來實現(xiàn)差異化并為其產(chǎn)品增加價值。

在軟件方面，PowerVR工具是成熟并已經(jīng)商用了的，且有專門的團隊維護，平均每季度更新一次，從而能夠最優(yōu)化地去映射新興的網(wǎng)絡模型、提供靈活性和性能優(yōu)化的理想組合。通過使用Imagination Technologies的專用深度神經(jīng)網(wǎng)絡（DNN）API，開發(fā)人員可以輕松地針對Series3NX架構(gòu)編寫人工智能應用程序，或者擴展實現(xiàn)部分自定義的算法和網(wǎng)絡。

Andrew在介紹中提到，PowerVR Series3NX能夠提供5個獨立的處理核心，能夠更好地保護數(shù)據(jù)，擁有更好的處理和更好的速度。他強調(diào)，PowerVR Series3NX在信息處理、算法兼容和信息安全保護方面，都具有獨特的優(yōu)勢。

神經(jīng)網(wǎng)絡加速+GPU有足夠的靈活性

未來的時代，是人工智能賦能一切的時代，包括物聯(lián)網(wǎng)，也就是我們所說的AIoT。物聯(lián)網(wǎng)碎片化的產(chǎn)品特性意味著對于數(shù)據(jù)加速處理需要更靈活。從當前的局勢來看，鮮有產(chǎn)品能比GPU在數(shù)據(jù)加速和深度學習訓練方面靈活性更高，且同時提供很高的算力。

Andrew表示，GPU+神經(jīng)網(wǎng)絡加速是賦能邊緣智能最好的解決方案。

他指出，GPU是完全靈活的，能夠提供用于Compute、Float和INT支持的標準化API；而神經(jīng)網(wǎng)絡加速應對不同的行業(yè)擁有很好的靈活性，同時能夠?qū)崿F(xiàn)更低功耗。

Andrew補充說，神經(jīng)網(wǎng)絡具有高的帶寬和計算，需要專用架構(gòu)解決這兩個問題。成本效率是現(xiàn)代SoC設計中的一個重要因素，PowerVR NNA能夠在每mm2提供最佳性能。

在Series3NX上，Imagination Technologies擁有豐富的解決方案，可以應用于安防、運動攝像頭、智能手機、汽車、AR/VR、無人機等眾多領(lǐng)域。

2017年，中國的私人資本Canyon Bridge出手5.5億英鎊（約49億元人民幣）收購了Imagination Technologies，這家GPU開放商目前是中資背景。而中國是人工智能和物聯(lián)網(wǎng)共同的熱土，對于邊緣智能實現(xiàn)的需求也更為迫切，相信Imagination Technologies能夠憑借強大的產(chǎn)品陣容借助這波熱潮，取得不錯的市場成績。