訊改革即將來(lái)臨 !! 隨著科技日新月盛地進(jìn)步，AI 的應(yīng)用已悄悄融入于人們的生活中，像是 Google 強(qiáng)大的搜尋引擎、Facebook 的喜愛(ài)排序、網(wǎng)路賣場(chǎng)的銷售排行等等。靜靜地回想，不難發(fā)現(xiàn)這些應(yīng)用已經(jīng)散布于每個(gè)人生活之中。

在不久的將來(lái)，所謂的 邊緣運(yùn)算(Edge Computing) 將會(huì)帶來(lái)此領(lǐng)域的另一個(gè)高峰。借由 神經(jīng)運(yùn)算處理芯片(Neural Processing Unit, NPU) 的誕生，亦指 AI 芯片。使得芯片運(yùn)算能力有著飛躍性的成長(zhǎng)，讓機(jī)器學(xué)習(xí)、人工智能的應(yīng)用能夠落實(shí)于移動(dòng)設(shè)備端、傳感器等等各種硬體設(shè)備，更加貼近于人們實(shí)際生活之中。然而，這類地膾炙人口的新穎應(yīng)用領(lǐng)域不外乎就是智慧工廠(Smart Factory)、智慧醫(yī)療(Smart Medical)、智慧生活(Smart Life)、智慧城市(Smart City)、物聯(lián)網(wǎng)(IoT)、工業(yè) 4.0、先進(jìn)輔助駕駛系統(tǒng)(ADAS) 等等。因此，如何讓生活、物品變得更智慧、更人性，就是新世代的創(chuàng)意，借此透過(guò) AI 開(kāi)創(chuàng)無(wú)限可能性。

本方案提供一套 OP-Killer EVM Board 之 AI 相關(guān)應(yīng)用產(chǎn)品開(kāi)發(fā)原型與技術(shù)資源，如下圖所示。要讓初入此領(lǐng)域者的開(kāi)發(fā)者能夠更快速地上手機(jī)器學(xué)習(xí)相關(guān)應(yīng)用，并促成未來(lái)的殺手級(jí)應(yīng)用。

此開(kāi)發(fā)原型由兩塊開(kāi)發(fā)板組成，SOM Board 為主要開(kāi)發(fā)板，可獨(dú)立使用。而 I/O Board 為擴(kuò)充板，能夠提供豐富的應(yīng)用支援。使得實(shí)際應(yīng)用上更具靈活性以及提供最佳化的應(yīng)用模塊，借此應(yīng)用于各式各樣的領(lǐng)域，如物聯(lián)網(wǎng)(IoT)、工業(yè)4.0 (Industry 4.0)、自駕車(Autonomous Cars)，足以落實(shí) 邊緣運(yùn)算(Edge Computing) 的概念，創(chuàng)造更好的應(yīng)用價(jià)值。

SOM Board 開(kāi)發(fā)板 :

采用 NXP i.MX8M Plus平臺(tái)為基礎(chǔ)，提供兩種規(guī)格的 4x Cortex-A53 處理器 ( 1.6 or 1.8 GHz ) 以及 1200 萬(wàn)畫(huà)素的圖像處理器 ISP、2.3 TOPS 算力的神經(jīng)運(yùn)算處理器 NPU、圖形加速器 2D/3D GPU、音效數(shù)位訊號(hào)處理器 HiFi 4 DSP 等強(qiáng)大核心架構(gòu)。其中，神經(jīng)運(yùn)算處理器 NPU 為此芯片的亮點(diǎn)核心，透過(guò)獨(dú)特的硬體架構(gòu)特性，能夠在低功耗的環(huán)境下(約 2 W) 提供極高的運(yùn)算效能，妥善運(yùn)用能夠大幅度提高機(jī)器學(xué)習(xí)的推理效益。特別適用于 MobileNet、ResNet、Inception、YOLO 等神經(jīng)網(wǎng)路架構(gòu)。

I/O Board 開(kāi)發(fā)板 :

提供強(qiáng)大的周邊配置，透過(guò) 314 PIN 的 MXM 傳輸界面 ( WPI 定義) 來(lái)傳送周邊訊號(hào)，如 UART 異步收發(fā)傳輸器、USB Type A/C 3.0 通用序列匯流排接口、 Gigabit Ethernet 乙太網(wǎng)路、I2C Bus 串列通訊匯流排、 MIPI-CSI 鏡頭資料傳輸界面、MIPI-DSI 顯示資料傳輸界面、GPIO 通用型輸入輸出界面、HDMI 高畫(huà)質(zhì)多媒體界面、 LVDS 低壓差分訊號(hào)技術(shù)界面、 CAN Bus 控制器區(qū)域網(wǎng)路、 M.2 Key B 傳輸界面、3.5 mm headset 音源接口。能夠?qū)?I/O Board 與 SOM Board 開(kāi)發(fā)板完美結(jié)合，讓訊號(hào)與資訊迅速交流 !!

圖2 OP-Killer EVM Board 深度學(xué)習(xí)- MXM 傳輸界面示意圖

以及搭配 NXP 所建置的機(jī)器學(xué)習(xí)開(kāi)發(fā)環(huán)境 eIQ(edge intelligence)，能夠快速地應(yīng)用 TensorFlow Lite、ONNX、ArmNN、DeepViewRT 等等深度學(xué)習(xí)框架。如同下圖所示，僅需將影像、聲音等相應(yīng)的資料，托付(Delegate) 給任何一個(gè)深度學(xué)習(xí)框架進(jìn)行推理(Inference)，即可快速解析神經(jīng)網(wǎng)路架構(gòu)來(lái)得到結(jié)果。且該框架將會(huì)透過(guò) OpenVX 資料庫(kù) 與 神經(jīng)運(yùn)算處理芯片 NPU 作最佳化的加速運(yùn)算。經(jīng)實(shí)際測(cè)試，MobileNet-SSD 物件偵測(cè)，推理速度約可達(dá)到每秒 80 張 FPS。 MobileNet 物件分類，推理速度更是能達(dá)到每秒 329 張 FPS。 比起同級(jí)的 GPU (GC7000XSVX) 而言，能快上約莫 4 倍的運(yùn)算效益!!

圖3 OP-Killer EVM Board 深度學(xué)習(xí)應(yīng)用示意圖

如如 ADAS、智慧相機(jī)、智慧城市、智慧生活。都可借由你的想像力與創(chuàng)造力，開(kāi)發(fā)出更具潛在力的殺手應(yīng)用!!

這里，亦提供實(shí)際應(yīng)用數(shù)據(jù)，而多數(shù)應(yīng)用皆能達(dá)到每秒 30 張以上的推理速度 !!如同著名的物件偵測(cè)算法 YOLO V3 Tiny 與 YOLO V4 Tiny 亦有高達(dá) 67 與 43 張的 FPS 。足以落實(shí)大部分視覺(jué)相關(guān)的應(yīng)用 !! 潛力無(wú)限 !!

圖5 OP-Killer EVM Board 深度學(xué)習(xí)-更多實(shí)際應(yīng)用數(shù)據(jù)表

?場(chǎng)景應(yīng)用圖

?展示板照片

?方案方塊圖

?核心技術(shù)優(yōu)勢(shì)

1. 搭配算力 2.3 TOPS 的神經(jīng)處理器(Neural Processing Unit , NPU)，即擁有強(qiáng)大的機(jī)器學(xué)習(xí)推理能力。比起廣為人知的 圖形處理器(Graphics Processing Unit , GPU) 更為省電，效率更高，是專門設(shè)計(jì)應(yīng)用于深度學(xué)習(xí)、人工智能的處理器 !!
2. 獨(dú)立 SOM 開(kāi)發(fā)板設(shè)計(jì)，并搭配強(qiáng)大的 NXP i.MX8M Plus 芯片。能夠提供最小開(kāi)機(jī)系統(tǒng)以及未來(lái)可配合 USB Wi-FI / BT 模組，更加適合應(yīng)用于 IoT 與工業(yè)控制領(lǐng)域。
3. 結(jié)合 I / O 開(kāi)發(fā)板能夠提供齊全的周邊配置。如高畫(huà)質(zhì)多媒體界面(HDMI)、低壓差分訊號(hào)技術(shù)界面(LVDS)、乙太網(wǎng)路(Ethernet)、控制器區(qū)域網(wǎng)路(CAN bus)、異步收發(fā)傳輸器(UART)、通用序列匯流排接口(USB Type A/C)、3.5 mm headset 音源接口、鏡頭資料傳輸界面(MIPI-CSI)、顯示資料傳輸界面(MIPI-DSI)、M.2 - PCIe 3.0 傳輸界面。
4. 可快速上手應(yīng)用 eIQ / PyeIQ 機(jī)器學(xué)習(xí)開(kāi)發(fā)環(huán)境，提供 TensorFlow Lite、ONNX、DeepViewRT 等多種深度學(xué)習(xí)框架的應(yīng)用范例。

?方案規(guī)格

** SOM Borad 規(guī)格 **

MPU ( NXP i.MX8M Plus, MIMX8ML8CVNKZAB / MIMX8ML8DVNLZAB ) 規(guī)格:

1. 搭配 4 顆 Arm Cortex-A53 高效能處理器，最高時(shí)脈分別為 1.6 GHz 與 1.8 GHZ

2. 搭配 2.3 TOPS 算力的神經(jīng)處理器(NPU, Neural Processing Unit) 給予機(jī)器學(xué)習(xí)應(yīng)用

3. 搭配兩組影像訊號(hào)處理單元 (ISP) 能夠解析 12 萬(wàn)畫(huà)素與每秒可達(dá) 375 MPixels/s 像素

4. 支持兩組 MIPI-CSI 鏡頭界面

5. 支援低功耗聲音加速器 : Cadence? Tensilica? HiFi 4 DSP at 800 MHz

6. 強(qiáng)健的 3D/2D 圖強(qiáng)加速器(GPU, GC7000UL)

7. 強(qiáng)大的視訊解碼器與編碼器能夠支援 1080p at 60 frame 的影像串流.

PMIC (PCA9450C) 規(guī)格:

1. 提供一組雙向降壓穩(wěn)壓器

2. 提供五組線性穩(wěn)壓器

3. 提供400 mA 主動(dòng)負(fù)載開(kāi)關(guān)

4. 支援 ESD 保護(hù)機(jī)制 : +/- 2000V HBM 與 +/-500V CDM .

eMMC 5.1 (MTFC32GAPALBH-IT) 規(guī)格:

1. 儲(chǔ)存容量為 32 GB

2. 操作電壓為 2.7 至 3.6 V

3. 操作溫度為 -40 至 85 °C

External Memory LPDDR4 (MT53D1024M32D4DT-046 AAT:D) 規(guī)格:

1. 最高運(yùn)行時(shí)脈為 2133 MHz

2. 儲(chǔ)存容量為 4 GB

3. 操作電壓為 1.1 V

4. 操作溫度為 -40 至 105 °C

NOR Flash (IS25WP256E-JLLE) 規(guī)格:

1.儲(chǔ)存容量為 32 MB

2.操作電壓為 1.7 至 1.95 V

3.操作溫度為 -40 至 105 °C

** IO Board 規(guī)格 **

◆ 1x PCIe M.2 Key M 傳輸界面

◆ 1x Expansion Connector 擴(kuò)充界面 ( I2C、GPIO、UART、PWM、SPI、PDM )

◆ 2x LVDS 低壓差分訊號(hào)技術(shù)界面

◆ 1x USB Type A 3.0 通用序列匯流排接口

◆ 1x USB Type C 3.0 通用序列匯流排接口

◆ 1x Debug 連接埠 ( Micro USB )

◆ 2x CAN Bus 控制器區(qū)域網(wǎng)路

◆ 1x MIPI-DSI 顯示資料傳輸界面

◆ 3.5 mm headset 音源接口

◆ 2x Gigabit Ethernet 乙太網(wǎng)路

◆ 1x HDMI 高畫(huà)質(zhì)多媒體界面

◆ 2x MIPI-CSI 鏡頭資料傳輸界面

? 技術(shù)文檔

請(qǐng)至大大通下載