伴隨著大數(shù)據(jù)、算法、硬件的進(jìn)步，“人工智能”這一極具未來感的高新科技，正在走入我們的日常生活。從“新一代勞模”掃地機(jī)器人，到沙特第一個獲得公民身份的“索菲亞”，再到可隨身攜帶的“貼心小管家”……人工智能正在改變著我們的生活。未來，隨著人工智能的普及，我們每個人都會擁有屬于自己的人工智能助手。

然而，人工智能若要實(shí)現(xiàn)真正的普及，僅有云端側(cè)的人工智能并不夠，終端側(cè)人工智能同樣重要。那么，什么是終端側(cè)人工智能？它的優(yōu)勢又有哪些？我們要如何實(shí)現(xiàn)它？今天，就讓我們?yōu)槟愫煤媒獯鹨幌??！?/p>

什么是終端側(cè)人工智能？

在解釋終端側(cè)人工智能前，我們先從人工智能定義說起。從廣義上講，“人工智能”描述的是機(jī)器與周圍世界交互的各種方式。通過軟件和硬件的結(jié)合——一臺“人工智能”設(shè)備可以基于硬件，通過算法處理數(shù)據(jù)，最終模仿人類的行為或像人一樣執(zhí)行任務(wù)。而終端側(cè)人工智能就是將人工智能算法在終端上運(yùn)行。

人工智能需要基于大量數(shù)據(jù)，由擁有強(qiáng)大運(yùn)算能力的硬件承載計算，通過算法進(jìn)行推演處理得出結(jié)論。因此，人工智能對硬件的運(yùn)算能力提出了很高的要求。

終端側(cè)人工智能有何優(yōu)勢？

如果說云是人工智能的大腦，那么智能終端就是感官。把智能終端和云大腦完美結(jié)合起來，才是人工智能未來的方向。

云端因其強(qiáng)大的數(shù)據(jù)匯總能力以及運(yùn)算處理能力，對于人工智能非常重要。并且，它還可作為終端側(cè)處理的補(bǔ)充而存在。云端可以匯集大數(shù)據(jù)并完成在終端上運(yùn)行的許多人工智能推理算法的訓(xùn)練（現(xiàn)階段）。

但在很多情況下，完全基于云端運(yùn)行推理也會存在一些問題。比如，在自動駕駛等時延敏感和關(guān)鍵型任務(wù)的實(shí)時應(yīng)用中，從終端采集數(shù)據(jù)，上傳到云端，云端再通過算法推演給出解決方案，然后下達(dá)到終端，鏈路太長會產(chǎn)生一定的時延，并且還會受到網(wǎng)絡(luò)等因素影響。

如果這些應(yīng)用運(yùn)行在終端側(cè)，問題將會得到解決。終端側(cè)人工智能是將人工智能算法在終端上運(yùn)行。與在云端運(yùn)行的人工智能相比，在終端側(cè)運(yùn)行人工智能算法具有即時響應(yīng)、可靠性提升、隱私保護(hù)增強(qiáng)，以及高效利用網(wǎng)絡(luò)帶寬等諸多優(yōu)勢。尤其是如今的移動終端已經(jīng)成為了人們生活中必不可少的角色，終端側(cè)運(yùn)行的優(yōu)勢更加凸顯。

不過，終端側(cè)人工智能并不意味著僅僅在運(yùn)行終端側(cè)推理。它會與云端協(xié)同合作，面向手勢識別、連續(xù)認(rèn)證、個性化用戶界面和面向自動駕駛的精密地圖構(gòu)建等使用場景進(jìn)行終端側(cè)人工智能訓(xùn)練?；诟咚龠B接和高性能本地處理，實(shí)現(xiàn)最佳的總體系統(tǒng)性能。

如何實(shí)現(xiàn)終端側(cè)人工智能？

人工智能的運(yùn)算需要基于硬件以完成大量的數(shù)據(jù)處理，因此終端側(cè)人工智能在工作負(fù)載這方面提出了挑戰(zhàn)。

Qualcomm 于十年前就開始了對人工智能的研究，目前也已經(jīng)有了許多人工智能用例。十多年來，Qualcomm 在移動終端的專注研究，讓驍龍移動平臺成為了最高性能移動終端的首選系統(tǒng)級芯片（SoC），可以高效地處理多種計算工作負(fù)載。

通過在適宜的計算引擎上運(yùn)行各種機(jī)器學(xué)習(xí)任務(wù)（如 CPU、GPU 和 DSP 等），Qualcomm 可以提供最高效的解決方案。并且這已經(jīng)集成在了我們的 SoC 中。

Qualcomm Hexagon DSP 就是一個典型范例，它最初是面向其他向量數(shù)學(xué)密集型工作而設(shè)計，但已通過進(jìn)一步增強(qiáng)用來解決人工智能的工作負(fù)載。實(shí)際上，在驍龍835 上支持 Qualcomm Hexagon 向量擴(kuò)展的 Hexagon DSP，與 Qualcomm Kryo CPU 相比，在運(yùn)行相同工作負(fù)載時（GoogleNet Inception網(wǎng)絡(luò)）能夠?qū)崿F(xiàn) 25 倍能效提升和 8 倍性能提升。

架構(gòu)的多樣性是至關(guān)重要的，人工智能的運(yùn)算不能僅依賴某一類引擎處理所有工作。Qualcomm 還將持續(xù)演進(jìn)面向機(jī)器學(xué)習(xí)工作負(fù)載的現(xiàn)有引擎，保持 Qualcomm 在性能表現(xiàn)最大化上的領(lǐng)先優(yōu)勢。并利用對新興神經(jīng)網(wǎng)絡(luò)的研究，專注提升性能表現(xiàn)，以擴(kuò)展異構(gòu)計算能力，充分應(yīng)對未來人工智能工作負(fù)載。

我們正大規(guī)模普及人工智能

僅有優(yōu)良硬件還不夠，讓開發(fā)者可以簡單便利的使用異構(gòu)計算很重要。為了彌補(bǔ)這一差距，我們發(fā)布了驍龍神經(jīng)處理引擎（NPE）軟件開發(fā)包（SDK）。它能縮短終端側(cè)卷積神經(jīng)網(wǎng)絡(luò)（CNN）和遞歸神經(jīng)網(wǎng)絡(luò)（RNN）在合適的驍龍引擎（例如 Kryo CPU、Qualcomm Adreno GPU 和 Hexagon DSP）上的運(yùn)行時間，對圖形識別和自然語言處理分別都有著重要作用。相同的開發(fā)者 API 給每個引擎都提供接入口，從而使開發(fā)者能夠方便地?zé)o縫切換人工智能任務(wù)。

該神經(jīng)處理引擎還支持通用深度學(xué)習(xí)模型框架，例如 Caffe/Caffe2 和 TensorFlow。該 SDK 是利用驍龍技術(shù)提供最佳性能和功耗的輕量靈活平臺，旨在幫助從醫(yī)療健康到安全的廣泛行業(yè)內(nèi)的開發(fā)者和終端設(shè)備廠商，在便攜式終端上運(yùn)行它們自己的專有神經(jīng)網(wǎng)絡(luò)模型。例如，今年的 F8 大會上，F(xiàn)acebook 和 Qualcomm 宣布合作，支持優(yōu)化 Facebook 開源深度學(xué)習(xí)框架 Caffe2，以及 NPE 框架。

在終端側(cè)完成全部或大部分思考的、“始終開啟”的智能終端中蘊(yùn)藏著巨大的機(jī)遇，Qualcomm 期待通過研究和產(chǎn)品化推動先進(jìn)機(jī)器學(xué)習(xí)的發(fā)展。

目前，Qualcomm 人工智能平臺可通過高效的終端側(cè)機(jī)器學(xué)習(xí)，提供高度響應(yīng)、高度安全且直觀的用戶體驗(yàn)。未來還有更多可能。