隨著人工智能技術(shù)的不斷發(fā)展，邊緣計算（Edge Computing）已成為企業(yè)創(chuàng)新與數(shù)字化轉(zhuǎn)型的重要引擎。如何在有限的計算資源下，實現(xiàn)高速且精確的 AI 推理任務(wù)，是企業(yè)面臨的主要挑戰(zhàn)之一。Axelera AI 憑借其卓越的 AI 加速解決方案，致力于協(xié)助企業(yè)快速部署高性能、低功耗的邊緣計算平臺，廣泛應(yīng)用于智慧城市、智慧交通及工業(yè)檢測等領(lǐng)域。接下來說明 Axelera AI 產(chǎn)品特色與技術(shù)重點（Key Features and Technologies）。

Axelera AI 提供的 AI 加速產(chǎn)品具有以下特色與技術(shù)優(yōu)勢：

Voyager SDK 的易用性和集成性：支持 ONNX，這是一種為機(jī)器學(xué)習(xí)設(shè)計的開放式文件格式，用于存儲訓(xùn)練好的模型?？梢宰尣煌娜斯ぶ悄芸蚣埽?Pytorch、MXNet，采用相同的格式存儲模型數(shù)據(jù)并進(jìn)行交互使用，從而實現(xiàn)易于集成和快速部署。

高性能AI模型推理加速：通過獨有的軟硬件協(xié)同優(yōu)化技術(shù)，大幅提升推理效率并降低功耗。Metis AIPU 支持在 INT8 精度下高達(dá) 214 TOPS，ResNet-50 推理速度可達(dá)3,200幀每秒，遠(yuǎn)超同級加速器，并且根據(jù) Axelera 公布的基準(zhǔn)測試結(jié)果，結(jié)合其 Voyager SDK，Metis 的平均推理速度超越主要競品。它的速度比 Hailo-8（26 TOPs）快約10倍，比高通的驍龍X（Snapdragon X 45 TOPs）快約4倍，在某些情況下甚至可以媲美 NVIDIA Jetson Orin AGX，性價比也令人印象深刻。在 M.2規(guī)格的開發(fā)版中，競爭對手寥寥無幾，主要包括 Hailo、Google Coral、Kneron、DeepX 和 Sima.ai。就原始性能而言，Metis M.2 是目前最快的選擇之一。

軟硬件協(xié)同加速：Voyager SDK 可自動處理量化、模型優(yōu)化、前后處理并行執(zhí)行（推理在 AIPU 上進(jìn)行，其他處理可在 CPU/GPU 上并行執(zhí)行），進(jìn)一步縮短從圖像輸入到結(jié)果輸出的整體延遲。

1. 
   Axelera Voyager SDK

多核可以同時處理多個模型：Metis AIPU 可選擇將四核心并發(fā)運行于單一大型模型，或獨立執(zhí)行多個輕量模型，支持多流、多任務(wù) AI pipeline，用于復(fù)雜圖像分析，例如多攝像頭或多階段處理。

功耗表現(xiàn)卓越：Axelera AI提供的產(chǎn)品，在邊緣設(shè)備中實現(xiàn)了高性能與低功耗的理想平衡。高效能達(dá)到15 TOPS/W，其推理計算與功耗比極具競爭力，典型運行功耗僅為8–15 W。Metis PCIe 模塊的實測功耗范圍在8到15瓦之間，而M.2卡的功耗更低，可低至3.5 W，峰值不超過9 W，非常適合用于功耗敏感的嵌入式或無風(fēng)扇系統(tǒng)，適用于功耗嚴(yán)格限制的嵌入式與邊緣設(shè)備。

支持動態(tài)頻率調(diào)整（降頻）：可根據(jù)實際運行需求調(diào)整時鐘，以進(jìn)一步降低功耗并優(yōu)化性能/能耗比。Metis AIPU內(nèi)置降頻功能，能夠根據(jù)實際運行場景動態(tài)調(diào)整運算時鐘，靈活降低功耗。同時通過Voyager SDK智能配置，保持高效的fps/W，更適合在不同使用場景下實現(xiàn)功耗優(yōu)化與性能兼顧。

D-IMC 架構(gòu)優(yōu)化能量使用：利用數(shù)字內(nèi)存計算（Digital In-Memory Computing）減少數(shù)據(jù)搬移，避免能源浪費，是高性能結(jié)合低功耗的核心。

完整的開發(fā)生態(tài)圈：通過開源的GitHub平臺，提供詳盡的SDK安裝指南、模型轉(zhuǎn)換流程以及豐富的部署示例，簡化開發(fā)過程。

Axelera Github:https://github.com/axelera-ai-hub/voyager-sdk/blob/release/v1.3/README.md

再來說到應(yīng)用案例分析，Axelera AI 已在實際應(yīng)用案例中展現(xiàn)了顯著的性能提升，以下是幾個案例分析：

1. 智慧交通 - 實時 AI 推理性能：使用 Metis AIPU 配合 Voyager SDK 處理視頻流的性能可超過 780 FPS，彰顯其具備超高吞吐能力，非常適用于交通監(jiān)控與車輛檢測等實時應(yīng)用場景。以交通流量為例，將獲取的原始數(shù)據(jù)或采用實時的攝像頭來截取車流數(shù)據(jù)，可以計算特定時段的車流量數(shù)據(jù)，用于智慧交通的規(guī)劃。

2. 工業(yè)自動化與質(zhì)量檢測：在工業(yè)制造領(lǐng)域，Axelera 強調(diào) Metis AIPU 能在不損失準(zhǔn)確度的前提下，提供GPU水平卻更低功耗的機(jī)器視覺性能，說明其能夠在生產(chǎn)線上實時完成缺陷檢測與分揀，相較人工具備更高的速度與精確度。以水果工廠為例，可在流水線上實時完成缺陷檢測與分揀，從而節(jié)省人工篩選的時間成本。

圖片出處：Axelera

3. 倉儲自動化多串流實時識別：也有企業(yè)導(dǎo)入 Metis M.2 卡，進(jìn)行倉儲訂單核對系統(tǒng)，使用四路 1080p 高清影像進(jìn)行實時手部與物體檢測，以高兼容性和低功耗成功取代傳統(tǒng)工業(yè)電腦。

Axelera AI邊緣計算加速方案憑借其卓越的性能、極佳的功耗效率以及簡便的部署流程，能夠有效幫助企業(yè)提升運營效率并降低整體成本。建議各行業(yè)的企業(yè)引入該方案，以有效增強產(chǎn)品和服務(wù)質(zhì)量，推動企業(yè)智慧創(chuàng)新的發(fā)展。

?場景應(yīng)用圖

?產(chǎn)品實體圖

?展示板照片

?方案方塊圖

?核心技術(shù)優(yōu)勢

1. Metis AIPU芯片：INT8量化高達(dá)214 TOPS，提供卓越的推理性能和低功耗表現(xiàn)。

2. 數(shù)字記憶體內(nèi)運算（Digital In-Memory Computing, D-IMC）：顯著減少數(shù)據(jù)搬移需求，大幅提升能量效率。

3. Voyager SDK軟硬協(xié)同優(yōu)化技術(shù)：自動化模型量化、編譯及部署，實現(xiàn)性能最大化和易用性提升。

4. 多核彈性運用：支持多串流推理、單一大型模型并行處理，靈活適應(yīng)復(fù)雜應(yīng)用場景。

5. 低功耗設(shè)計（Low-Power Design）：PCIe模塊功耗為8–15W，M.2模塊功耗僅為3.5–9W，專為邊緣部署設(shè)計。

6. Downclock技術(shù)（動態(tài)時鐘調(diào)整）：動態(tài)平衡功耗與性能，可根據(jù)不同實際需求靈活調(diào)整。

?方案規(guī)格

1. 推理性能：高達(dá) 214 TOPS (INT8 精度)

2. 模型支持 ONNX

3. 典型推理 FPS：ResNet-50 模型 3,200 FPS 以上

4. PCIe 版本功耗：典型 8–15W

5. M.2 版本功耗：典型 3.5–9W

6. 軟硬件接口支持：PCIe Gen3 x4, M.2 接口 (2280 規(guī)格)

7. SDK：Voyager SDK (量化、優(yōu)化、自動部署)

8. 支持操作系統(tǒng)：Linux (Ubuntu)

9. 編程語言支持：Python, C++

登錄大大通網(wǎng)站，查看方案原文，了解更多詳情！
原文鏈接：https://www.wpgdadatong.com.cn/reurl/jMnMne