加利福尼亞州洛斯阿爾托斯,2020年11月19日– Deep Vision退出隱身模式,并啟動其ARA-1推理處理器,以支持在邊緣創(chuàng)建新的世界AI視覺應(yīng)用程序。處理器以緊湊的外形尺寸實(shí)現(xiàn)了計(jì)算,內(nèi)存,能效(典型值2W)和超低延遲之間的最佳平衡,使其成為端點(diǎn)(如相機(jī),傳感器以及具有高計(jì)算能力的邊緣服務(wù)器)的最終選擇需求,模型靈活性和能源效率至關(guān)重要。
Deep Vision首席執(zhí)行官Ravi Annavajjhala說:“當(dāng)今復(fù)雜的AI工作負(fù)載不僅需要低功耗,而且還需要低延遲才能在邊緣交付實(shí)時(shí)智能。” “不再需要在性能和效率之間進(jìn)行權(quán)衡。開發(fā)人員現(xiàn)在可以在一個(gè)處理器上獲得更高準(zhǔn)確性的結(jié)果和豐富的數(shù)據(jù)見解?!?/p>
突破性的高效架構(gòu)
深度學(xué)習(xí)模型的復(fù)雜性不斷增長,并在邊緣推動了對AI的計(jì)算需求的增長。Deep Vision ARA-1處理器基于獲得專利的多態(tài)數(shù)據(jù)流架構(gòu),能夠處理各種數(shù)據(jù)流,以最大程度地減少片上數(shù)據(jù)移動。該架構(gòu)支持每個(gè)神經(jīng)網(wǎng)絡(luò)模型內(nèi)的指令,從而可以在深度學(xué)習(xí)模型內(nèi)最佳地映射任何數(shù)據(jù)流模式。將數(shù)據(jù)保持在靠近計(jì)算引擎的位置可以最大程度地減少數(shù)據(jù)移動,從而確保高推理吞吐量,低延遲和更高的電源效率。編譯器自動為神經(jīng)網(wǎng)絡(luò)中的每一層評估多個(gè)數(shù)據(jù)流模式,并選擇性能最高和功耗最低的模式。
通過同時(shí)進(jìn)行多模型處理,Deep Vision ARA-1處理器還可以有效地運(yùn)行多個(gè)模型,而不會影響性能,從而更快,更準(zhǔn)確地生成結(jié)果。Deep Vision ARA-1處理器以比Edge TPU和Movidius MyriadX低的系統(tǒng)功耗運(yùn)行深度學(xué)習(xí)模型,例如Resnet-50,其延遲比Edge TPU高6倍,而延遲比MyriadX高4倍。
以軟件為中心的方法打破了復(fù)雜性障礙
Deep Vision的軟件開發(fā)套件(SDK)和硬件緊密結(jié)合在一起,可以無縫地協(xié)同工作,
以最低的功耗確保最佳的模型精度。借助內(nèi)置的量化器,模擬器和事件探查器,開發(fā)人員擁有支持計(jì)算復(fù)雜的推理應(yīng)用程序設(shè)計(jì)和執(zhí)行所需的所有工具。從歷史上講,在不進(jìn)行大量代碼開發(fā)的情況下將模型遷移到生產(chǎn)的過程一直具有挑戰(zhàn)性。Deep Vision的SDK還支持無摩擦的工作流程,從而實(shí)現(xiàn)了從培訓(xùn)模型到生產(chǎn)應(yīng)用程序的低代碼,自動化,無縫遷移過程。該SDK通過顯著提高生產(chǎn)率并縮短整體上市時(shí)間,從而減少了昂貴的開發(fā)時(shí)間。
責(zé)任編輯:lq
-
處理器
+關(guān)注
關(guān)注
68文章
19895瀏覽量
235201 -
神經(jīng)網(wǎng)絡(luò)
+關(guān)注
關(guān)注
42文章
4814瀏覽量
103608 -
AI
+關(guān)注
關(guān)注
88文章
35143瀏覽量
279826
發(fā)布評論請先 登錄
信而泰×DeepSeek:AI推理引擎驅(qū)動網(wǎng)絡(luò)智能診斷邁向 “自愈”時(shí)代
異形拼接處理器可以實(shí)現(xiàn)的效果

在采用異構(gòu)模式推理時(shí),如何檢查每層使用的設(shè)備是什么?
RK3562J 處理器 M 核啟動實(shí)操
Arm技術(shù)助力Google Axion處理器加速AI工作負(fù)載推理

量子處理器的作用_量子處理器的優(yōu)缺點(diǎn)
EE-84:SHARC處理器的外部端口DMA工作模式

EE-345:SHARC處理器的啟動內(nèi)核定制和固件可升級性

EE-309:Blackfin處理器的電源模式轉(zhuǎn)換時(shí)間

EE-336: ADSP-BF54x Blackfin處理器的啟動

EE-308:估算和優(yōu)化Blackfin處理器的啟動時(shí)間

NPU與傳統(tǒng)處理器的區(qū)別是什么
ARM處理器的工作模式和特點(diǎn)
開箱即用,AISBench測試展示英特爾至強(qiáng)處理器的卓越推理性能


評論