AI人工智能產(chǎn)業(yè)又一重磅合作！百度飛槳（PaddlePaddle）深度學(xué)習(xí)平臺(tái)攜手IC設(shè)計(jì)領(lǐng)導(dǎo)廠商MediaTek，完成Paddle Lite輕量化推理引擎與MediaTek的NeuroPilot人工智能通用軟件平臺(tái)適配。如此一來(lái)，所有MediaTek的人工智能芯片APU (Artificial intelligence Processing Unit ) 都能夠使用Paddle Lite快速部署。透過(guò)推進(jìn)智能技術(shù)與產(chǎn)品的進(jìn)步，雙方有著共同的目標(biāo)，即加速AI科技的普及與進(jìn)步，讓AI技術(shù)更好的為所有用戶(hù)服務(wù)，并實(shí)現(xiàn)產(chǎn)業(yè)落地。

MediaTek芯片目前在智能音箱/智能帶屏音箱領(lǐng)域市場(chǎng)占有率過(guò)半，與百度共同合作開(kāi)發(fā)的智能音箱產(chǎn)品小度在家系列，AI識(shí)別技術(shù)獲得市場(chǎng)好評(píng)，銷(xiāo)量持續(xù)位居前茅。百度在AI技術(shù)及生態(tài)圈加大了布局， MediaTek 深耕邊緣 AI 技術(shù)平臺(tái)，雙方以智能屏音箱小度在家產(chǎn)品的合作為基礎(chǔ)，攜手拓展更廣泛的智能家居市場(chǎng), 共同豐富生態(tài)圈。

劃重點(diǎn)——什么是百度飛槳？

百度飛槳是自主研發(fā)、開(kāi)源開(kāi)放、功能最完備的產(chǎn)業(yè)級(jí)深度學(xué)習(xí)平臺(tái)，集深度學(xué)習(xí)核心框架、基礎(chǔ)模型庫(kù)、端到端開(kāi)發(fā)套件、工具組件和服務(wù)平臺(tái)于一體，包含完整的開(kāi)發(fā)、訓(xùn)練、推理的端到端深度學(xué)習(xí)AI模型開(kāi)發(fā)工具鏈。飛槳源于產(chǎn)業(yè)實(shí)踐，致力于與產(chǎn)業(yè)深入融合，目前飛槳已經(jīng)廣泛應(yīng)用于工業(yè)、農(nóng)業(yè)、服務(wù)業(yè)等領(lǐng)域，不僅如此，在邊緣端口、移動(dòng)端和部分服務(wù)器端等場(chǎng)景內(nèi)，Paddle Lite這一輕量化推理引擎也可以進(jìn)行AI模型部署、高性能推理等工作。如智能閘機(jī)、智能音箱、智能摳圖、AR/VR手機(jī)等應(yīng)用。與MediaTek探索的邊緣應(yīng)用的方向不謀而合。

飛槳PaddlePaddle協(xié)助萬(wàn)千行業(yè)落地AI應(yīng)用

MediaTek芯片技術(shù)優(yōu)勢(shì)及特點(diǎn)

MediaTek是唯一支持泛消費(fèi)類(lèi)產(chǎn)品的芯片方案公司，此前在AI領(lǐng)域發(fā)布多形態(tài)的智能產(chǎn)品，包括應(yīng)用于汽車(chē)電子、智能音箱、智能紅酒柜、智能家居、智能支付設(shè)備、智能電視、智能手機(jī)等眾多領(lǐng)域的芯片方案。MediaTek擁有廣泛技術(shù)組合開(kāi)發(fā)和跨平臺(tái)及操作系統(tǒng)(Android, Linux, RTOS, 其他)的強(qiáng)大優(yōu)勢(shì)，在面向主流智能家居應(yīng)用領(lǐng)域。

MediaTek 推出了新一代端側(cè) AI 平臺(tái) MT8175，其特點(diǎn)包含：

12納米制程:先進(jìn)制程提升性能，降低功耗30%

APU (AI神經(jīng)網(wǎng)絡(luò)加速處理器)支持Paddle Lite輕量化推理引擎

AI攝像頭功能:支持 廣角鏡頭/移動(dòng)偵測(cè)/人臉識(shí)別/手勢(shì)識(shí)別

Audio DSP:支持低功耗語(yǔ)音助理設(shè)備

MiraVision :支持芯片級(jí)護(hù)眼及屏顯參數(shù)依環(huán)境自調(diào)節(jié)技術(shù)

WiFi:內(nèi)置802.11ac及藍(lán)芽Mesh組網(wǎng)

MediaTek 芯片解決方案

MediaTek與百度飛槳的合作成果

MediaTek 彈性的AI框架NeuroPilot 與百度 Paddle Lite 集成，實(shí)現(xiàn)端上實(shí)時(shí)智能推理的產(chǎn)品應(yīng)用。Paddle Lite 運(yùn)行在MediaTek APU 上的效率相比于傳統(tǒng) ARM CPU 性能提升 6 倍，功耗降低90%，實(shí)現(xiàn)低功耗，便攜式產(chǎn)品應(yīng)用。通過(guò)下方的系統(tǒng)架構(gòu)圖可以見(jiàn)到，相比于離線的工具轉(zhuǎn)換，透過(guò)Delegate的子圖直接調(diào)用，可以降低軟件時(shí)延，確保維持Paddle Lite上模型的效能。

Paddle Lite與MediaTek NeuroPilot框架圖

如下圖所示, 從實(shí)測(cè)結(jié)果可以看出，與手機(jī)等移動(dòng)端常用的國(guó)內(nèi)外主流CPU相比，MT8175 APU在MobileNET_v1的耗時(shí)表現(xiàn)更出色，由此證明在AI相關(guān)領(lǐng)域，如圖像分割、點(diǎn)擊率預(yù)估、目標(biāo)檢測(cè)、語(yǔ)義理解上，語(yǔ)音合成、圖像分類(lèi)等，專(zhuān)用的AI芯片將帶來(lái)更出色的效果。

MT8175芯片在MobileNET_v1模型上對(duì)比主流CPU時(shí)延明顯優(yōu)化

NeuroPilot 與 Paddle Lite兼容性認(rèn)證書(shū)

Paddle Lite支持MediaTek 人工智能APU芯片

Paddle Lite全新升級(jí)及雙方后續(xù)合作展望

Paddle Lite即將在近期上線的V2.6版本中新增支持無(wú)校準(zhǔn)量化模型，8bit精度損失從 2%減少到0.1%，編譯腳本分不同后端平臺(tái)硬件做分支優(yōu)化，單個(gè)場(chǎng)景編譯更簡(jiǎn)單。而在全新更新的文檔中，也詳細(xì)介紹了如何使用Paddle Lite在MediaTek 人工智能APU硬件上做預(yù)測(cè)部署，支持的芯片、設(shè)備、Paddle模型與算子列表及參考示例演示等。

https://paddle-lite.readthedocs.io/zh/release-v2.6.0/demo_guides/mediatek_apu.html

未來(lái)，百度飛槳與 MediaTek 人工智能平臺(tái)除了在硬件上進(jìn)行全面適配，還將攜手拓展更廣泛的智能應(yīng)用。針對(duì)主流行業(yè)應(yīng)用場(chǎng)景做進(jìn)一步的性能優(yōu)化，推出行業(yè)標(biāo)桿的解決方案，共同助力人工智能場(chǎng)景規(guī)模化，賦予AI更多可能。