隨著新技術的不斷演進，人工智能已經(jīng)廣泛地應用到教育、金融、物流、零售、交通、醫(yī)療等各個領域。而在AI高速發(fā)展的當下，高效開發(fā)變得更為重要，如何將創(chuàng)意想法與AI技術深度融合，迅速轉(zhuǎn)化為可落地的AI應用，是開發(fā)者在激勵競爭中制勝的關鍵。

當前，AI業(yè)務和算法模型都在持續(xù)快速演進，AI計算平臺適配新業(yè)務和新算法快速升級成為難題。

為了助力開發(fā)者快速上線新業(yè)務，為消費者提供新體驗，HUAWEI HiAI Foundation在華為開發(fā)者大會2021（HDC.Together）上發(fā)布了全新的技術特性——端云協(xié)同。端云協(xié)同是針對新業(yè)務場景算子以及已有典型業(yè)務場景算子，提供性能優(yōu)化、快速升級平臺能力的解決方案。它具備可變的計算框架、廣適的模型結構，助力開發(fā)者快速支持新模型、上線新業(yè)務，讓消費者快速獲得端側(cè)AI帶來的體驗提升。

把算子庫放到云端，老手機“煥發(fā)新春“

首先，端云協(xié)同解決了舊手機的“新服務”難題。

以往，消費者想要體驗到最新的AI功能與服務，需要等算子庫更新，而算子庫內(nèi)置在手機ROM中，手機新版本更新，算子庫才能隨之更新。但舊手機的版本更新次數(shù)會隨著時間遞減，甚至停止服務不再更新。如果手機版本不更新，算子庫升級則成為一道難題，消費者的體驗也會被延遲滿足。另外，新功能從開發(fā)到ROM升級的周期也是以數(shù)月計，極大影響新業(yè)務上線的周期。

端云協(xié)同能夠讓老手機用戶不受終端版本的限制，更靈活地享受更新、更優(yōu)質(zhì)的服務?；谌A為端芯云三端打通的優(yōu)勢——底層是計算芯片及HiAI Foundation，端側(cè)有預置的HiAI Engine，云側(cè)有自己的計算庫插件更新云，HiAI Foundation可以將算子庫放到云端。當有新支持的算子或性能優(yōu)化發(fā)布后，HUAWEI HiAI Foundation會在閑時靜默自動更新新的算子庫，開發(fā)者只需在APP開發(fā)時正常調(diào)用，無感使用升級后的計算能力，讓老手機煥發(fā)新生機。

（HiAI Foundation端云協(xié)同示意圖）

把模型放到云端，開發(fā)者按需取用

其次，端云協(xié)同可以快速匹配開發(fā)者的需求，幫助其降低開發(fā)成本。

通常情況下，應用開發(fā)的理想狀態(tài)是，一個模型可以適用于所有類型的手機終端。雖然在CPU上運行模型可以達到這一目的，但以CPU為核心的傳統(tǒng)計算架構已經(jīng)不能適應當前應用對計算性能的強勁需求，很多應用在NPU的強大算力下才能將功能發(fā)揮到極致。這個時候，就需要開發(fā)者針對NPU進行模型定制，但問題隨之而來，一方面，所有模型不可能打包在一個SDK里讓大家去下載；另一方面，API的大小會受到限制，開發(fā)困擾不減反增。

HiAI Foundation端云協(xié)同的解決方案支持開發(fā)者將模型放到云端，這樣既可以節(jié)省APP大小，又可以獨立針對芯片部署最佳模型，最大限度提升用戶體驗。而端云協(xié)同技術不會干擾到開發(fā)者的任何模型數(shù)據(jù)，真正建立起一個完整生態(tài)壁壘，助力各行業(yè)開發(fā)者加速業(yè)務應用落地。

（HiAI Foundation端云協(xié)同示意圖）

未來是智能主宰的時代。HiAI Foundation將利用這條端云協(xié)同的通路進一步放大端側(cè)AI能力，通過端云協(xié)同的算子搜索、融合策略、異構分段策略、FFTL等技術賦能NPU機型，快速且低成本解決開發(fā)者的技術難題，激發(fā)全球開發(fā)者的想象力和創(chuàng)造性，開發(fā)出更多新奇酷炫的全新玩法。

編輯：jq