在2025年，人工智能(AI) 與邊緣計(jì)算(Edge Computing) 將迎來(lái)一個(gè)嶄新的里程碑。DeepX 推出了一款革命性的產(chǎn)品 DeepX DX-M1 AI 推理加速卡 采用 PCIe Gen3 M.2 M-Key 接口，具備高達(dá) 25 TOPS 的卓越運(yùn)算性能，以及高準(zhǔn)確度、低功耗、低溫度等性能表現(xiàn)。

通過(guò)結(jié)合 Orange Pi 5 Plus(Rockchip RK3588) 與 DeepX AI 加速卡，這套解決方案以極高性價(jià)比為基礎(chǔ)，能夠?yàn)楣I(yè)電腦提供即插即用的便捷體驗(yàn)，并以「平臺(tái)升級(jí)，迎接AI智能時(shí)代」為設(shè)計(jì)理念，助力開(kāi)發(fā)者輕松邁向人工智能領(lǐng)域，為 AI 應(yīng)用開(kāi)啟了全新篇章。

圖1 基于 DeepX AI 加速卡結(jié)合 Rockchip RK3588 多路物體檢測(cè)解決方案優(yōu)勢(shì)示意圖

同時(shí)，提供豐富的軟件資源與主流深度學(xué)習(xí)框架 ( 例如 TensorFlow、PyTorch 和 ONNX ) 的全面支持，無(wú)論是初學(xué)者還是專(zhuān)業(yè)人士，都能迅速掌握操作技巧，輕松完成 AI 模型的部署，讓更多人能夠參與其中。人工智能的應(yīng)用開(kāi)發(fā)中，促使創(chuàng)新變得更加觸手可及。

其中 邊緣計(jì)算(Edge Computing) 與 神經(jīng)運(yùn)算處理芯片(Neural Processing Unit, NPU) 將是掀起這項(xiàng)浪潮的關(guān)鍵指標(biāo)得以將智能設(shè)備更貼近人們的日常生活。

AI技術(shù)的進(jìn)一步發(fā)展，更多的創(chuàng)新應(yīng)用將逐步落地，徹底重塑我們的日常應(yīng)用，于以下領(lǐng)域：

智能監(jiān)控：通過(guò)實(shí)時(shí)目標(biāo)檢測(cè)、行為分析與入侵預(yù)警，強(qiáng)化城市安全與監(jiān)控系統(tǒng)。

智慧零售：通過(guò)顧客行為分析與智能貨架管理，提升購(gòu)物體驗(yàn)，優(yōu)化銷(xiāo)售策略。

醫(yī)療影像分析：運(yùn)用 AI 協(xié)助醫(yī)生進(jìn)行疾病診斷(如腫瘤檢測(cè))，提高醫(yī)療準(zhǔn)確性。

工業(yè)質(zhì)檢：自動(dòng)化檢測(cè)產(chǎn)品瑕疵，提高制造業(yè)質(zhì)量管控與生產(chǎn)效率。

高級(jí)輔助駕駛系統(tǒng)(ADAS)：通過(guò) AI 視覺(jué)技術(shù)，分析道路、行人等狀況，以實(shí)現(xiàn)行車(chē)安全的目標(biāo)。

農(nóng)業(yè)監(jiān)測(cè)：監(jiān)測(cè)作物健康狀況，檢測(cè)病蟲(chóng)害，優(yōu)化農(nóng)業(yè)管理，提高產(chǎn)量和品質(zhì)。

自走車(chē)：通過(guò)傳感器和 AI 算法，自主導(dǎo)航并避開(kāi)障礙物，應(yīng)用于物流、巡檢等多種場(chǎng)景。

機(jī)械手臂：結(jié)合 AI 與視覺(jué)系統(tǒng)，能精確地執(zhí)行組裝、焊接等任務(wù)，提高生產(chǎn)效率和產(chǎn)品質(zhì)量。

自動(dòng)送餐系統(tǒng)：外賣(mài)平臺(tái)如 Uber Eats，正在美國(guó)多個(gè)城市部署由 Serve Robotics 開(kāi)發(fā)的送餐機(jī)器人，這些機(jī)器人配備 AI 技術(shù)，能自主導(dǎo)航至顧客所在地，提供高效的送餐服務(wù)。

無(wú)人機(jī)影像分析：AI 驅(qū)動(dòng)的視覺(jué)系統(tǒng)使無(wú)人機(jī)能夠進(jìn)行地形物體檢測(cè)、災(zāi)害評(píng)估和基礎(chǔ)設(shè)施檢查，提供高效的數(shù)據(jù)收集和分析。

圖2 AI應(yīng)用方向示意圖，出處 ChatGPT 生成

另外，可以通過(guò) DeepX 的卓越運(yùn)算性能，可以輕松打造 多路(Multi-Streamer) 的物體檢測(cè)(Object Detection) 應(yīng)用。無(wú)論是使用普通 USB 攝像頭，還是通過(guò)網(wǎng)絡(luò)流媒體來(lái)源，都能完美整合到各種智能場(chǎng)景中。由于目前 Orange Pi 5 Plus 的攝像頭極限大約為 16 路 480p 流媒體輸入，如果采用更高端的 NVR 作為主平臺(tái)，更能發(fā)揮出 DX-M1 的極限。因此，更能適用于小型商場(chǎng)、停車(chē)場(chǎng)、會(huì)展中心等商品防盜、車(chē)輛安全管控、人流統(tǒng)計(jì)等應(yīng)用中。

圖3 多路物件檢測(cè)解決方案應(yīng)用示意圖，出處 ChatGPT 生成

DeepX：引領(lǐng)智能新浪潮的造勢(shì)者

在邊緣計(jì)算浪潮中，DeepX 是韓國(guó)的一家初創(chuàng)公司，擁有約 240 多項(xiàng)智能專(zhuān)利。并在 CES 2024 一次榮獲嵌入式、機(jī)器人、電腦整合三項(xiàng)創(chuàng)新獎(jiǎng)等大獎(jiǎng)。甚至被美國(guó)消費(fèi)者技術(shù)協(xié)會(huì) (CTA)評(píng)為“必訪公司”，成為全球市場(chǎng)的焦點(diǎn)。

DeepX DX-M1 AI 加速卡強(qiáng)勢(shì)來(lái)襲，能夠提供每瓦 5 TOPS 的計(jì)算性能，擁有強(qiáng)大的邊緣計(jì)算能力 (25TOPS) 以及IQ8(Intelligent Quantization Integer 8) 獨(dú)有的量化技術(shù)，足夠媲美 GPU 的準(zhǔn)確度，在擁有 INT8 的極致效率的同時(shí)也能享受到 FP32 準(zhǔn)確度，實(shí)現(xiàn)無(wú)與倫比的 AI 精度。

其內(nèi)置搭配 4 GB 的內(nèi)存(DDR) 用于訪問(wèn)模塊，不會(huì)占用主系統(tǒng)的資源，大幅度減輕系統(tǒng)集成的負(fù)擔(dān)。其卓越的性能表現(xiàn)成為智能監(jiān)控、智慧醫(yī)療、智能制造等邊緣 AI 應(yīng)用的唯一首選。

圖4 DeepX AI 芯片規(guī)格示意圖

軟件持續(xù)優(yōu)化更新：打造最佳用戶體驗(yàn)

DeepX 不僅擁有強(qiáng)大的硬件性能，并且打造了一個(gè)完整且友好的軟件生態(tài)系統(tǒng)，為開(kāi)發(fā)者提供全方位的支持。其生態(tài)系統(tǒng)包含詳細(xì)的快速入門(mén)指南(Quick Start Guide)、功能強(qiáng)大的軟件開(kāi)發(fā)工具包(SDK)、豐富的模型資源庫(kù)(Model Zoo)，以及多樣化的示例應(yīng)用程序。這些資源能有效協(xié)助開(kāi)發(fā)者迅速整合并優(yōu)化 AI 模型的運(yùn)行，縮短開(kāi)發(fā)時(shí)間，同時(shí)提升應(yīng)用性能，讓 AI 創(chuàng)新變得更加輕松實(shí)現(xiàn)。

軟件由三大核心組件構(gòu)成，分別是量化器(Quantizer)、編譯器(DX-COM Compiler) 以及 運(yùn)行時(shí)環(huán)境(DX-RT Runtime)，共同驅(qū)動(dòng)旗下的 DeepX AI SoC 系列產(chǎn)品。這些組件相互協(xié)作，形成一個(gè)高效的人工智能計(jì)算平臺(tái)，為各種應(yīng)用場(chǎng)景提供強(qiáng)大的支持。以下圖示范說(shuō)明其架構(gòu)：

圖5 DeepX 開(kāi)發(fā)環(huán)境示意圖，出處官方文件

卓越的AI性能

利用 DeepX DX-M1 芯片運(yùn)行當(dāng)前最熱門(mén)的 YOLOv5s (640x640) 目標(biāo)檢測(cè)算法，可輕松達(dá)到每秒約 330 張。

圖6 DeepX DX-M1 芯片性能數(shù)據(jù)表

下列表格是 GPU 與 DX-M1 的準(zhǔn)確度分析，其中綠色字體表示 Full Precision 代表 GPU，藍(lán)色字體表示 IQ8 代表 DeepX NPU。

圖7 DeepX DX-M1與GPU準(zhǔn)確度比較表，出處官方文件

豐富的 AI 應(yīng)用

DeepX 致力于推動(dòng)人工智能技術(shù)的普及，提供多樣化的 AI 示例與教學(xué)資源，循序漸進(jìn)地引導(dǎo)開(kāi)發(fā)者掌握 AI 應(yīng)用的實(shí)現(xiàn)過(guò)程。通過(guò)示例，開(kāi)發(fā)者不僅能深入了解人工智能的核心技術(shù)，還能學(xué)習(xí)如何將其靈活運(yùn)用于實(shí)際場(chǎng)景，從而加速創(chuàng)新與技術(shù)落地。

圖8 DeepX 實(shí)際應(yīng)用示意圖

場(chǎng)景應(yīng)用圖

展示板照片

方案方塊圖

核心技術(shù)優(yōu)勢(shì)

1. 采用 IQ8 (Intelligent Quantization Integer 8) 量化技術(shù)，媲美 GPU 的準(zhǔn)確度：

DeepX 的 IQ8 技術(shù)需要配合數(shù)據(jù)集 (DataSet) 校正，即可輕松擁有 INT8 的極致效率的同時(shí)也能享受到 FP32 準(zhǔn)確度，實(shí)現(xiàn)媲美 GPU 的 AI 準(zhǔn)確度。

2. 不占用系統(tǒng)內(nèi)存：

模塊采用獨(dú)立內(nèi)存架構(gòu)進(jìn)行運(yùn)作，其內(nèi)建 4GB 存取容量，完全不依賴(lài)主系統(tǒng)的 RAM 資源，成功減輕了對(duì)系統(tǒng)整體性能的負(fù)擔(dān)。

3. 最佳數(shù)據(jù)流優(yōu)化，最大限度減少數(shù)據(jù)移動(dòng)：

采用數(shù)據(jù)傳輸流優(yōu)化設(shè)計(jì)，將內(nèi)存設(shè)計(jì)于加速卡中，能夠大幅度減少數(shù)據(jù)在主系統(tǒng)傳輸次數(shù)，從而顯著提升處理速度并大幅降低延遲。

4. 高性價(jià)比與低功耗解決方案：

將主平臺(tái) Orange Pi 5 Plus 搭配 DeepX DX-M1 的 AI 芯片，即可無(wú)痛升級(jí)為更高階的 AI 平臺(tái)，每秒能夠運(yùn)行約 480 幀 (YOLOv5s) 的物體檢測(cè)；且 DX-M1 擁有 5 TOPS/W 的性能表現(xiàn)，整套多路物體檢測(cè)解決方案僅耗電約 14 W。

5. 多路應(yīng)用的新概念：

隨著邊緣計(jì)算技術(shù)的快速發(fā)展，若將其結(jié)合區(qū)域化的應(yīng)用場(chǎng)景，或許能開(kāi)創(chuàng)出一種創(chuàng)新且具成本效益的解決方案。通過(guò)使用易于獲取的攝像頭，搭配一臺(tái)智能工業(yè)主機(jī)以及 DeepX M.2 加速卡，便能實(shí)現(xiàn)多樣化的應(yīng)用需求。

此外，前端的攝像頭還可根據(jù)實(shí)際需求進(jìn)行靈活更換與配置，進(jìn)一步提升系統(tǒng)的適應(yīng)性與靈活性，為各個(gè)行業(yè)提供了更多可能性。

方案規(guī)格

1.主平臺(tái)開(kāi)發(fā)板采用 RockChip RK3588 平臺(tái)為基礎(chǔ)，搭載四顆 Cortex-A76 處理器與四顆 Cortex-A55 處理器，并提供高性能圖像處理器 Arm Mali-G610 與神經(jīng)運(yùn)算處理器 NPU 等強(qiáng)大核心架構(gòu)。

2.I/O Board 開(kāi)發(fā)板提供強(qiáng)大的周邊配置，如千兆以太網(wǎng)（Gigabit Ethernet）、HDMI 高清多媒體接口、USB Type A/C 3.0 通用串行總線接口、M.2 E-Key 傳輸接口、M.2 M-Key 傳輸接口，并能夠通過(guò)擴(kuò)展的 40 pin 針腳來(lái)模擬常用的 UART、I2C、SPI、CAN 等信號(hào)。

3.DeepX DX-M1 芯片提供強(qiáng)大的 AI 運(yùn)算能力（25 TOPS），采用 PCIe Gen3 M.2 2280 M-Key 接口設(shè)計(jì)，搭載高性能的 DX-M1 芯片，展現(xiàn)出每瓦高達(dá) 5 TOPS 的卓越低功耗運(yùn)算能力。此外，內(nèi)置 4GB 動(dòng)態(tài)隨機(jī)存取存儲(chǔ)器（DRAM），確保模塊訪問(wèn)的高效性與穩(wěn)定性。該加速卡全面支持 Linux 與 Windows 操作系統(tǒng)，并為開(kāi)發(fā)者提供豐富的軟件資源，方便快速集成與應(yīng)用。

參考網(wǎng)站：

DeepX 官網(wǎng)

DeepX DX-M1 產(chǎn)品介紹

DeepX 開(kāi)發(fā)網(wǎng)站

Orange Pi 5 Plus網(wǎng)站

歡迎關(guān)注大大通博主：ATU 伊布小編 (一部)

了解MPU技術(shù)整合、深度學(xué)習(xí)、電腦視覺(jué)技術(shù)與人工智能（AI）的發(fā)展等更多相關(guān)內(nèi)容！

登錄大大通網(wǎng)站查看原文：https://www.wpgdadatong.com.cn/reurl/viYnyi ，下載術(shù)文檔，了解更多資訊！