一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

【賽昉科技昉·星光RISC-V單板計(jì)算機(jī)試用體驗(yàn)】運(yùn)行邊緣AI框架——TFLM

開(kāi)發(fā)板試用精選 ? 來(lái)源:開(kāi)發(fā)板試用 ? 作者:電子發(fā)燒友論壇 ? 2022-11-14 14:32 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

本文來(lái)源電子發(fā)燒友社區(qū),作者:xusiwei1236, 帖子地址:https://bbs.elecfans.com/jishu_2289346_1_1.html

一、TFLM簡(jiǎn)介

TFLM是TensorFlow Lite for Microcontrollers項(xiàng)目的簡(jiǎn)稱(chēng),全稱(chēng)翻譯過(guò)來(lái)就是“適用于微控制器TensorFlow Lite”。它是一個(gè)來(lái)自谷歌的邊緣AI框架,能夠運(yùn)行在單片機(jī)上。
來(lái)自官方的介紹:
TensorFlow Lite for Microcontrollers 是 TensorFlow Lite 的一個(gè)實(shí)驗(yàn)性移植版本,它適用于微控制器和其他一些僅有數(shù)千字節(jié)內(nèi)存的設(shè)備。它可以直接在“裸機(jī)”上運(yùn)行,不需要操作系統(tǒng)支持、任何標(biāo)準(zhǔn) C/C++ 庫(kù)和動(dòng)態(tài)內(nèi)存分配。核心運(yùn)行時(shí)(core runtime)在 Cortex M3 上運(yùn)行時(shí)僅需 16KB,加上足以用來(lái)運(yùn)行語(yǔ)音關(guān)鍵字檢測(cè)模型的操作,也只需 22KB 的空間。
TFLM項(xiàng)目首頁(yè):https://tensorflow.google.cn/lit ... s/overview?hl=zh-cn
TFLM代碼倉(cāng)鏈接:https://github.com/tensorflow/tflite-micro

二、準(zhǔn)備工作2.1 燒錄系統(tǒng)
開(kāi)始本篇之前,需要先下載、燒錄支持NVDLA驅(qū)動(dòng)的系統(tǒng)鏡像。
這里使用了社區(qū)**Houge_Langley**大佬制作的帶有NVDLA驅(qū)動(dòng)的Debian鏡像,下載連接:
http://ubuntu-riscv.litterhougelangley.club/ubuntu-impish/img/
Debian系統(tǒng)鏡像下載完成后,將Debian系統(tǒng)鏡像燒錄到SD卡上的操作和Fedora操作類(lèi)似,這里不再贅述。
啟動(dòng)后,neofetch輸出:
pYYBAGK3zMyAAQBAAABlHq01nEU752.png


2.2 下載依賴(lài)
在PC的Linux系統(tǒng)上,運(yùn)行TFLM基準(zhǔn)測(cè)試之前,需要先安裝依賴(lài)的一些工具:
sudo apt install git unzip wget python3 python3-pip

2.3 設(shè)置pip源
將pip源設(shè)置為國(guó)內(nèi)源,可以加速pip包安裝,執(zhí)行如下命令:
pip config set global.index-urlhttp://mirrors.aliyun.com/pypi/simple/
pip config set global.trusted-host mirrors.aliyun.com
pip config set global.timeout 120

2.4 安裝Pillow庫(kù)
tflite-micro的benchmark編譯過(guò)程中會(huì)依賴(lài)python環(huán)境的pillow庫(kù),對(duì)數(shù)據(jù)集的圖片進(jìn)行預(yù)處理。
執(zhí)行如下命令,安裝pillow庫(kù): pip install pillow
安裝過(guò)程會(huì)編譯pillow包中的C/C++源代碼文件,速度較慢,耐心等待。
如果Pillow安裝過(guò)程報(bào)錯(cuò):The headers or library files could not be found for jpeg
需要先安裝libjpeg庫(kù):apt-get install libjpeg-dev zlib1g-dev


三、在VisionFive上運(yùn)行TFLM3.1 下載TFLM源碼
下載tflite-micro源碼使用如下命令:
git clone <https://github.com/tensorflow/tflite-micro.git>

3.2 TFLM基準(zhǔn)測(cè)試說(shuō)明
TFLM代碼倉(cāng)的頂層的README.md中給出了benchmarks鏈接:
https://github.com/tensorflow/tflite-micro/blob/main/tensorflow/lite/micro/benchmarks/README.md
該文檔篇幅不長(zhǎng):
poYBAGK4ZAmAJeaZAACdbjT9aZU774.png

通過(guò)這個(gè)目錄我們可以知道,TFLM實(shí)際上提供了兩個(gè)基準(zhǔn)測(cè)試(實(shí)際有三個(gè)),分別是:
  • 關(guān)鍵詞基準(zhǔn)測(cè)試
    • 關(guān)鍵詞基準(zhǔn)測(cè)試使用的是程序運(yùn)行時(shí)生產(chǎn)的隨機(jī)數(shù)據(jù)作為輸入,所以它的輸出是沒(méi)有意義的
  • 人體檢測(cè)基準(zhǔn)測(cè)試
    • 人體檢測(cè)基準(zhǔn)測(cè)試使用了兩張bmp圖片作為輸入
    • 具體位于tensorflowlitemicroexamplesperson_detectiontestdata子目錄

3.3 TFLM基準(zhǔn)測(cè)試命令
參考”Run on x86”,在x86 PC上運(yùn)行關(guān)鍵詞基準(zhǔn)測(cè)試的命令是:
make -f tensorflow/lite/micro/tools/make/Makefile run_keyword_benchmark
在PC上運(yùn)行人體檢測(cè)基準(zhǔn)測(cè)試的命令是:
make -f tensorflow/lite/micro/tools/make/Makefile run_person_detection_benchmark
執(zhí)行這兩個(gè)命令,會(huì)依次執(zhí)行如下步驟:
  • 調(diào)用幾個(gè)下載腳本,下載依賴(lài)庫(kù)和數(shù)據(jù)集;
  • 編譯測(cè)試程序;
  • 運(yùn)行測(cè)試程序;
tensorflow/lite/micro/tools/make/Makefile代碼片段中,可以看到調(diào)用了幾個(gè)下載腳本:
pYYBAGK4ZB6AM6v-AADEv5gswUA578.png

flatbuffers_download.sh和kissfft_download.sh腳本第一次執(zhí)行時(shí),會(huì)將相應(yīng)的壓縮包下載到本地,并解壓,具體細(xì)節(jié)參見(jiàn)代碼內(nèi)容;
pigweed_download.sh腳本會(huì)克隆一個(gè)代碼倉(cāng),再檢出一個(gè)特定版本:
pYYBAGK4ZCuABD3CAAEYCKnfU8k965.png

這里需要注意的是,代碼倉(cāng)https://pigweed.googlesource.com/pigweed/pigweed國(guó)內(nèi)一般無(wú)法訪問(wèn)(因?yàn)橛蛎鹓ooglesource.com被禁了)。將此連接修改為我克隆好的代碼倉(cāng):https://github.com/xusiwei/pigweed.git可以解決因?yàn)閲?guó)內(nèi)無(wú)法訪問(wèn)googlesource.com而無(wú)法下載pigweed測(cè)試數(shù)據(jù)的問(wèn)題。

3. 4 Keyword基準(zhǔn)測(cè)試
關(guān)鍵詞基準(zhǔn)測(cè)試使用的模型較小,比較適合在STM32F3/F4這類(lèi)主頻低于100MHz的MCU。
這個(gè)基準(zhǔn)測(cè)試的模型比較小,計(jì)算量也不大,所以在PC上運(yùn)行這個(gè)基準(zhǔn)測(cè)試的耗時(shí)非常短:
poYBAGK4ZD2AYyq5AAGS36-5Bko417.png

可以看到,在PC上運(yùn)行關(guān)鍵詞喚醒的速度非??欤?0次時(shí)間才2毫秒。
模型文件路徑為:./tensorflow/lite/micro/models/keyword_scrambled.tflite
可以使用Netron軟件查看模型結(jié)構(gòu):
poYBAGK4ZEyAdPNkAAB7aF50xgw363.png


3. 5 Person detection基準(zhǔn)測(cè)試
人體檢測(cè)基準(zhǔn)測(cè)試的計(jì)算量相對(duì)要大一些,運(yùn)行的時(shí)間也要長(zhǎng)一些:
pYYBAGK4ZF6AYQQOAAGczPpTyzE269.png

pYYBAGK4ZGmAY4a5AAFpf5byb70838.png

可以看到,人像檢測(cè)模型運(yùn)行10次的時(shí)間是四千多毫秒,一次平均四十幾毫秒。
模型文件路徑為:./tensorflow/lite/micro/models/person_detect.tflite
同樣,可以使用Netron查看模型結(jié)構(gòu),模型結(jié)構(gòu)過(guò)于復(fù)雜,這里不再展示。

四、和樹(shù)莓派3B+結(jié)果對(duì)比
我手頭還有一塊吃灰很久的樹(shù)莓派3B+,拿出來(lái)做個(gè)對(duì)比。

4.1 在樹(shù)莓派3B+上運(yùn)行TFLM基準(zhǔn)測(cè)試
在樹(shù)莓派3B+上運(yùn)行TFLM基準(zhǔn)測(cè)試,所需的操作和VisionFive的完全一致。由于關(guān)鍵詞識(shí)別的模型計(jì)算量太小了,這里直接跑一下人像檢測(cè)的模型,最終結(jié)果為:
poYBAGK4ZJ-AQr60AADk7MTySFk534.png

可以看到,在樹(shù)莓派3B+上的,對(duì)于有人臉的圖片,連續(xù)運(yùn)行10次人臉檢測(cè)模型,總體耗時(shí)4186毫秒,每次平均耗時(shí)418.6毫秒;對(duì)于無(wú)人臉的圖片,連續(xù)運(yùn)行10次人臉檢測(cè)模型,耗時(shí)4190毫秒,每次平均耗時(shí)419毫秒。

4.2 VisionFive和樹(shù)莓派3B+上TFLM基準(zhǔn)測(cè)試結(jié)果對(duì)比
結(jié)果匯總?cè)缦拢?br />
VisionFive V1 樹(shù)莓派3B+
有人臉平均耗時(shí)(ms) 477.6 418.6
無(wú)人臉平均耗時(shí)(ms) 476.9 419
CPU最高主頻(Hz) 1.0GHz 1.4G
從上表可以看到,在TFLM人像檢測(cè)模型計(jì)算場(chǎng)景下,VisionFive和樹(shù)莓派3B+單次計(jì)算耗時(shí)基本相當(dāng)。樹(shù)莓派3B+的CPU頻率比VisionFive要高出40%,VisionFive能跑出這樣的成績(jī)說(shuō)明U74 RISC-V CPU核和ARM Cortex A53的單核計(jì)算能力上差距不大(TFLM是單線程的)。但是,樹(shù)莓派3B+有4個(gè)Cortex A53核心,而VisionFive V1只有兩個(gè)U74 CPU核心,因此在多線程計(jì)算性能上必然存在較大差距。

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • RISC-V
    +關(guān)注

    關(guān)注

    46

    文章

    2562

    瀏覽量

    48785
  • 賽昉科技
    +關(guān)注

    關(guān)注

    3

    文章

    165

    瀏覽量

    14898
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    【VisionFive 2單板計(jì)算機(jī)試用體驗(yàn)】VisionFive 2一個(gè)霸氣的游戲機(jī)

    單板計(jì)算機(jī),搭載·驚鴻-7110(型號(hào):JH-7110)RISC-V應(yīng)用處理器,擁有極強(qiáng)的計(jì)算能力和圖形處理能力。開(kāi)源的·
    發(fā)表于 07-13 20:41

    【VisionFive 2單板計(jì)算機(jī)試用體驗(yàn)】RISC-V架構(gòu)卡片計(jì)算機(jī)初體驗(yàn)

    2h........無(wú)奈) 參考文獻(xiàn): 全球首款集成3D GPU的高性能量產(chǎn)RISC-V 單板計(jì)算機(jī)·星光 2 開(kāi)發(fā)實(shí)踐![全球首款集成3D GPU的高性能量產(chǎn)
    發(fā)表于 07-06 23:28

    權(quán)威評(píng)測(cè):Orange Pi RV2等5?款?RISC-V?單板計(jì)算機(jī)測(cè)試-性能、基準(zhǔn)測(cè)試、功能和見(jiàn)解

    如果計(jì)算的未來(lái)不是被鎖定在專(zhuān)有架構(gòu)上,那會(huì)怎樣?想象一下,在這個(gè)世界上,開(kāi)發(fā)人員和業(yè)余愛(ài)好者都可以利用開(kāi)源硬件的強(qiáng)大功能自由構(gòu)建、創(chuàng)新和實(shí)驗(yàn)。進(jìn)入RISC-V單板計(jì)算機(jī)(SBC)領(lǐng)域——一個(gè)新興
    的頭像 發(fā)表于 06-30 13:35 ?316次閱讀
    權(quán)威評(píng)測(cè):Orange Pi RV2等5?款?<b class='flag-5'>RISC-V</b>?<b class='flag-5'>單板計(jì)算機(jī)</b>測(cè)試-性能、基準(zhǔn)測(cè)試、功能和見(jiàn)解

    【VisionFive 2單板計(jì)算機(jī)試用體驗(yàn)】 + 開(kāi)箱體驗(yàn)

    在x86與ARM架構(gòu)主導(dǎo)的單板計(jì)算機(jī)市場(chǎng),中國(guó)團(tuán)隊(duì)打造的VisionFive 2(防星光2)如同一顆新星,憑借開(kāi)源開(kāi)放的RISC-V架構(gòu)和成熟的桌面體驗(yàn),為開(kāi)發(fā)者與極客提供了全新的選擇。經(jīng)過(guò)
    發(fā)表于 06-27 09:06

    共建生態(tài),賦能應(yīng)用 | 科技精彩亮相中國(guó)RISC-V生態(tài)大會(huì)

    2025中國(guó)RISC-V生態(tài)大會(huì)于近日在北京圓滿(mǎn)落幕。大會(huì)以“共建生態(tài),共享未來(lái)”為主題,匯聚了中外產(chǎn)學(xué)研界各方代表,共同探討RISC-V的最新發(fā)展趨勢(shì)和產(chǎn)業(yè)機(jī)遇。作為中國(guó)RISC-V軟硬件生態(tài)
    的頭像 發(fā)表于 03-04 11:03 ?891次閱讀
    共建生態(tài),賦能應(yīng)用 | <b class='flag-5'>賽</b><b class='flag-5'>昉</b>科技精彩亮相中國(guó)<b class='flag-5'>RISC-V</b>生態(tài)大會(huì)

    科技RISC-V家庭云解決方案:NAS存儲(chǔ)性能升級(jí),隱私安全雙保障

    (VisionFive2)單板計(jì)算機(jī),推出全新RISC-V家庭云(NAS)解決方案,為用戶(hù)提供高性能、高安全性的私有云存儲(chǔ)服務(wù),滿(mǎn)足家庭及輕量級(jí)企業(yè)場(chǎng)景需求。方案亮點(diǎn)01高性能硬件支持
    的頭像 發(fā)表于 02-18 17:50 ?871次閱讀
    <b class='flag-5'>賽</b><b class='flag-5'>昉</b>科技<b class='flag-5'>RISC-V</b>家庭云解決方案:NAS存儲(chǔ)性能升級(jí),隱私安全雙保障

    首屆RISC-V產(chǎn)業(yè)發(fā)展大會(huì)成功舉辦,攜手產(chǎn)業(yè)伙伴共繪RISC-V新藍(lán)圖

    12月28日,由中國(guó)電子工業(yè)標(biāo)準(zhǔn)化技術(shù)協(xié)會(huì)RISC-V工作委員會(huì)(以下簡(jiǎn)稱(chēng)“RISC-V工作委員會(huì)”)主辦的首屆“RISC-V產(chǎn)業(yè)發(fā)展大會(huì)”在北京成功舉辦。作為推動(dòng)RISC-V生態(tài)發(fā)展
    的頭像 發(fā)表于 12-30 14:14 ?652次閱讀
    首屆<b class='flag-5'>RISC-V</b>產(chǎn)業(yè)發(fā)展大會(huì)成功舉辦,<b class='flag-5'>賽</b><b class='flag-5'>昉</b>攜手產(chǎn)業(yè)伙伴共繪<b class='flag-5'>RISC-V</b>新藍(lán)圖

    科技亮相ICCAD-Expo 2024,共探RISC-V技術(shù)最新發(fā)展

    與會(huì)觀眾共探RISC-V技術(shù)的最新發(fā)展和行業(yè)應(yīng)用。RISC-V架構(gòu)的開(kāi)放性和靈活性使其成為中國(guó)芯片行業(yè)的重要機(jī)遇。科技資深銷(xiāo)售總監(jiān)周杰在“IP與IC設(shè)計(jì)服務(wù)”專(zhuān)
    的頭像 發(fā)表于 12-16 10:22 ?647次閱讀
    <b class='flag-5'>賽</b><b class='flag-5'>昉</b>科技亮相ICCAD-Expo 2024,共探<b class='flag-5'>RISC-V</b>技術(shù)最新發(fā)展

    科技發(fā)布全新RISC-V處理器內(nèi)核Dubhe-83

    RISC-V軟硬件生態(tài)企業(yè)科技近日宣布,正式推出其全新RISC-V處理器內(nèi)核——Dubhe-83(?天樞-83),該內(nèi)核專(zhuān)為
    的頭像 發(fā)表于 12-13 10:59 ?672次閱讀

    科技發(fā)布全新RISC-V CPU IP,符合RVA23規(guī)范,賦能AI應(yīng)用與高效計(jì)算

    2024年12月10日,中國(guó)RISC-V軟硬件生態(tài)領(lǐng)導(dǎo)者科技正式推出全新RISC-V處理器內(nèi)核——·天樞-83(Dubhe-83),賦
    的頭像 發(fā)表于 12-11 01:03 ?1193次閱讀
    <b class='flag-5'>賽</b><b class='flag-5'>昉</b>科技發(fā)布全新<b class='flag-5'>RISC-V</b> CPU IP,符合RVA23規(guī)范,賦能<b class='flag-5'>AI</b>應(yīng)用與高效<b class='flag-5'>計(jì)算</b>

    科技亮相世界互聯(lián)網(wǎng)大會(huì),精彩呈現(xiàn)RISC-V創(chuàng)新成果

    豐富的RISC-V創(chuàng)新成果,包括·驚鴻-7110(JH-7110)RISC-V應(yīng)用處理器,·星光2(VisionFive2)
    的頭像 發(fā)表于 11-28 15:14 ?603次閱讀
    <b class='flag-5'>賽</b><b class='flag-5'>昉</b>科技亮相世界互聯(lián)網(wǎng)大會(huì),精彩呈現(xiàn)<b class='flag-5'>RISC-V</b>創(chuàng)新成果

    聯(lián)合國(guó)芯推出高性能AI MCU芯片,實(shí)現(xiàn)RISC-V+AI新應(yīng)用

    近日,科技與蘇州國(guó)芯科技有限公司(以下簡(jiǎn)稱(chēng)“國(guó)芯科技”)合作研發(fā)的高性能AIMCU芯片產(chǎn)品CCR7002已成功通過(guò)了內(nèi)部性能和功能測(cè)試,實(shí)現(xiàn)了RISC-V+AI技術(shù)的新應(yīng)用。
    的頭像 發(fā)表于 11-27 11:46 ?1066次閱讀
    <b class='flag-5'>賽</b><b class='flag-5'>昉</b>聯(lián)合國(guó)芯推出高性能<b class='flag-5'>AI</b> MCU芯片,實(shí)現(xiàn)<b class='flag-5'>RISC-V+AI</b>新應(yīng)用

    預(yù)售啟動(dòng)!·星光 2 AI套件正式發(fā)布,基于RISC-V構(gòu)建AI算力

    10月24日,·星光2(VisionFive2)AI套件正式開(kāi)啟預(yù)售。該套件由中國(guó)RISC-V軟硬件生態(tài)領(lǐng)導(dǎo)者
    的頭像 發(fā)表于 10-25 08:05 ?716次閱讀
    預(yù)售啟動(dòng)!<b class='flag-5'>昉</b>·<b class='flag-5'>星光</b> 2 <b class='flag-5'>AI</b>套件正式發(fā)布,基于<b class='flag-5'>RISC-V</b>構(gòu)建<b class='flag-5'>AI</b>算力

    科技產(chǎn)品亮相RISC-V開(kāi)源創(chuàng)新中心,雙方達(dá)成戰(zhàn)略合作

    RISC-V開(kāi)源創(chuàng)新中心:“我們非常高興能與賽科技公司建立戰(zhàn)略合作伙伴關(guān)系。科技的技術(shù)創(chuàng)新,結(jié)合中心的教育資源,將為雙方帶來(lái)巨大的協(xié)同效應(yīng)。”
    的頭像 發(fā)表于 10-11 09:46 ?876次閱讀
    <b class='flag-5'>賽</b><b class='flag-5'>昉</b>科技產(chǎn)品亮相<b class='flag-5'>RISC-V</b>開(kāi)源創(chuàng)新中心,雙方達(dá)成戰(zhàn)略合作

    如何讓RISC-V企業(yè)賺錢(qián)?科技展現(xiàn)全場(chǎng)景RISC-V解決方案

    今年的RISC-V中國(guó)峰會(huì),圓桌論壇的主題格外引人注目——如何讓RISC-V企業(yè)賺錢(qián)?科技給出的答案是“應(yīng)用”。如果把RISC-V浪潮比
    的頭像 發(fā)表于 08-30 12:33 ?944次閱讀
    如何讓<b class='flag-5'>RISC-V</b>企業(yè)賺錢(qián)?<b class='flag-5'>賽</b><b class='flag-5'>昉</b>科技展現(xiàn)全場(chǎng)景<b class='flag-5'>RISC-V</b>解決方案