之前文章已介紹了一些AI算法Demo的應(yīng)用 ,我們提供從模型訓(xùn)練到RZ/V系列嵌入式端推理應(yīng)用的完整流程。整體流程如下圖所示。
官方EVK會(huì)提供算法樣例相關(guān)的資料,包括如下內(nèi)容:
服務(wù)器(電腦)端模型訓(xùn)練程序源代碼。
模型轉(zhuǎn)換腳本程序(用于把訓(xùn)練的模型轉(zhuǎn)換成onnx格式模型)
DRP-AI Translator轉(zhuǎn)換工具
BSP源碼文件
交叉編譯環(huán)境SDK
RZ/V系列EVK推理樣例的源代碼
具體流程
1模型訓(xùn)練的程序和模型轉(zhuǎn)換腳本程序,可根據(jù)自己的需要在個(gè)人電腦或服務(wù)器上進(jìn)行環(huán)境搭建和應(yīng)用。
2DRP-AI Translator轉(zhuǎn)換工具安裝如下。
1) DRP-AI Translator安裝需要的環(huán)境
2) DRP-AI Translator安裝步驟
按以下步驟啟動(dòng)DRP-AI Translator包:
左右滑動(dòng)查看更多
$ sudo apt-get update $ sudo apt-get install -y libgl1-mesa-dev wget libopencv-dev $ sudo apt-get install -y python3-pip $ pip3 install -U pip $ chmod +x DRP-AI_Translator-v1.83-Linux-x86_64-Install $ ./DRP-AI_Translator-v1.83-Linux-x86_64-Install
以交互方式繼續(xù)安裝。輸入“Enter”或“y”繼續(xù)。
左右滑動(dòng)查看更多
This installer will guide you through the installation of DRP-AI Translator. Continue? [n/Y] y
顯示安裝進(jìn)度條后,會(huì)提示安裝完成,如下:
Installing DRP-AI_Translator... Installing Program Files... Installation complete.
當(dāng)前目錄下會(huì)生成如下目錄結(jié)構(gòu):
左右滑動(dòng)查看更多
$ tree -L 2 drp-ai_translator_release drp-ai_translator_release/ ├── DRP-AI_translator │ ├── api_translator │ ├── availability_checker │ ├── converter │ ├── drp_converter │ ├── drplib │ └── python_api ├── UserConfig │ ├── sample │ └── sample_scripts ├── onnx │ ├── (resnet50v1.onnx) (Can be automatically downloaded) │ ├── tiny_yolov2.onnx │ ├── (vgg16.onnx) (Can be automatically downloaded) │ └── yolov2.onnx ├── output ├── run_DRP-AI_translator_V2L.sh └── run_DRP-AI_translator_V2M.sh
依賴項(xiàng)由安裝程序自動(dòng)安裝。
以下是主要依賴項(xiàng)列表:
3) 模型轉(zhuǎn)換所需的文件
模型轉(zhuǎn)換需要DRP-AI Mac地址配置文件、模型推理前處理后處理配置文件、onnx模型文件,如下圖
模型轉(zhuǎn)換所需的配置文件默認(rèn)路徑為./UserConfig。
onnx模型文件默認(rèn)路徑為./onnx
4) 模型轉(zhuǎn)換
可以執(zhí)行如下指令進(jìn)行模型轉(zhuǎn)換:
左右滑動(dòng)查看更多
$ cd drp-ai_translator_release $ ./run_DRP-AI_translator_V2M(L).sh test -onnx ./onnx/modelA.onnx
其中test為模型轉(zhuǎn)換后輸出的文件名,modelA.onnx為需要轉(zhuǎn)換的模型名稱。詳細(xì)資料見
DRP-AI Translator V1.83 User‘s Manual
3BSP源碼文件不僅可以編譯生成官方EVK所需的bootloader、kernel、rootfs,還能編譯生成交叉編譯環(huán)境SDK。詳見
RZ/V2L DRP-AI Support Package
4樣例程序嵌入式端推理應(yīng)用
官方提供在RZ/V系列EVK上推理的樣例源代碼,用戶可根據(jù)自己的需要修改編譯源代碼,把編譯好的源代碼和DRP-AI Translator轉(zhuǎn)換后的模型文件移植官方EVK上,就可實(shí)現(xiàn)AI算法在RZ/V系列EVK推理應(yīng)用。
審核編輯:湯梓紅
-
芯片
+關(guān)注
關(guān)注
459文章
51927瀏覽量
433674 -
嵌入式
+關(guān)注
關(guān)注
5125文章
19438瀏覽量
313068 -
移植
+關(guān)注
關(guān)注
1文章
392瀏覽量
28509 -
AI算法
+關(guān)注
關(guān)注
0文章
259瀏覽量
12535
原文標(biāo)題:AI算法在RZ/V芯片中的移植推理流程
文章出處:【微信號:瑞薩MCU小百科,微信公眾號:瑞薩MCU小百科】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
相關(guān)推薦
基于瑞薩RZ/V2H AI微處理器的解決方案:高性能視覺AI系統(tǒng)

面向邊緣AI應(yīng)用的全新RZ/V2H

NVIDIA 在首個(gè)AI推理基準(zhǔn)測試中大放異彩
深度學(xué)習(xí)推理和計(jì)算-通用AI核心
Dllite_micro (輕量級的 AI 推理框架)
YOLOv5s算法在RK3399ProD上的部署推理流程是怎樣的
深度剖析OpenHarmony AI調(diào)度管理與推理接口
嘉楠勘智K510開發(fā)板簡介——高精度AI邊緣推理芯片及應(yīng)用
依圖挺入“AI芯片”賽道 新產(chǎn)品“求索”視覺推理能力超越英偉達(dá)
瑞薩電子推出支持入門級AI應(yīng)用設(shè)計(jì)的全新RZ/V2L MPU
移植深度學(xué)習(xí)算法模型到海思AI芯片

基于RZ/V2L AI MPU的人頭計(jì)數(shù)應(yīng)用
瑞薩新款RZ/V2N視覺AI MPU產(chǎn)品介紹

評論