導讀

2023年以ChatGPT為代表的大語言模型橫空出世，它的出現(xiàn)標志著自然語言處理領(lǐng)域取得了重大突破。它在文本生成、對話系統(tǒng)和語言理解等方面展現(xiàn)出了強大的能力，為人工智能技術(shù)的發(fā)展開辟了新的可能性。同時，人工智能技術(shù)正在進入各種應(yīng)用領(lǐng)域，在智慧城市、智能制造、智慧醫(yī)療、智慧農(nóng)業(yè)等領(lǐng)域發(fā)揮著重要作用。

柴火創(chuàng)客2024年將依托母公司Seeed矽遞科技在人工智能領(lǐng)域的創(chuàng)新硬件，與全球創(chuàng)客愛好者共建“模型倉”，通過“SenseCraft AI”平臺可以讓使用者快速部署應(yīng)用體驗人工智能技術(shù)！

RT-DETR

目標檢測一直面臨著一個重大挑戰(zhàn)-平衡速度和準確性。像YOLO這樣的傳統(tǒng)模型速度很快，但需要一個名為非極大值抑制（NMS）的后處理步驟，這會減慢檢測速度。NMS過濾重疊的邊界框，但這會引入額外的計算時間，影響整體速度。

RT-DETR 實時端到端目標檢測器，旨在解決現(xiàn)有目標檢測方法在速度和精度上的問題。該方法在保持較高檢測精度的同時，顯著提升了推理速度，為實時目標檢測提供了新的解決方案。

RT-DETR是基于DETR架構(gòu)的端到端對象檢測器，完全消除了對NMS的需求。通過這樣做，RT-DETR顯著減少了之前基于卷積神經(jīng)網(wǎng)絡(luò)（CNN）的對象檢測器（如YOLO系列）的延遲。它結(jié)合了強大的主干、混合編碼器和獨特的查詢選擇器，可以快速準確地處理特征。

RT-DETR 架構(gòu)的關(guān)鍵組成

骨干網(wǎng)絡(luò)：提取特征，文中實驗了 ResNet 和可縮放的 HgNetV2 兩種骨干網(wǎng)絡(luò)，選擇其最后三個階段的特征輸入到編碼器。

高效混合編碼器：通過解耦尺度內(nèi)交互和跨尺度融合來高效處理多尺度特征，它由兩部分組成：

·AIFI（Attention-based Intra-scale Feature Interaction）：僅在上使用單尺度 Transformer 編碼器進行層內(nèi)特征交互，以捕獲更豐富的語義概念，降低復雜度并提高整體精度。

·CCFF（CNN-based Cross-scale Feature Fusion）：基于跨尺度融合模塊進行優(yōu)化，在融合路徑中插入多個由卷積層組成的融合塊，用于融合相鄰尺度的特征。融合塊包含兩個 1×1 卷積調(diào)整通道數(shù)，使用 RepConv 組成的 N 個 RepBlocks 進行特征融合，通過元素相加融合兩條路徑的輸出。

Transformer 解碼器：解碼器通過不確定性最小查詢選擇模塊，從編碼器輸出的特征序列中選擇固定數(shù)量的特征作為初始對象查詢，然后利用輔助預(yù)測頭迭代優(yōu)化對象查詢，生成類別和邊界框。

此外，RT-DETR 支持靈活調(diào)整推理速度，通過調(diào)整解碼器層數(shù)實現(xiàn)，而無需重新訓練。同時，它還支持通過控制編碼器和解碼器的參數(shù)來實現(xiàn)模型的縮放。

RT-DETR特點

高效混合編碼器：采用高效混合編碼器，通過解耦尺度內(nèi)交互和跨尺度融合來處理多尺度特征。這種基于 Vision Transformers 的獨特設(shè)計降低了計算成本，允許實時物體檢測。

IoU 感知查詢選擇：利用 IoU 感知查詢選擇改進了對象查詢初始化，使模型能夠?qū)Ｗ⒂趫鼍爸凶钕嚓P(guān)的對象，從而提高檢測準確性。

推理速度可調(diào)：支持通過使用不同的解碼器層靈活調(diào)整推理速度，無需重新訓練。這種適應(yīng)性有助于在各種實時目標檢測場景中的實際應(yīng)用。

實時性能：實現(xiàn)了實時目標檢測速度，相比許多基于 Transformer 的模型，其推理速度更快。

無錨框設(shè)計：不依賴于錨框，直接預(yù)測物體的邊界框和類別，提高了模型的靈活性和檢測效率，減少了超參數(shù)調(diào)優(yōu)的工作量，提升了小目標檢測的性能。

端到端訓練：采用端到端的訓練方式，不需要像傳統(tǒng)的檢測方法那樣經(jīng)過復雜的后處理步驟，如非極大值抑制（NMS），提高了訓練效率并減少了推理的復雜度。

高精度：在速度和精度方面均超過了 YOLO 系列等其他實時檢測器，例如 RT-DETR-R50 在 COCO val2017 上達到 53.1% 的 AP 和 108 FPS，RT-DETR-R101 達到 54.3% 的 AP 和 74 FPS。

可擴展性：支持模型的縮放，通過控制編碼器和解碼器的參數(shù)，如調(diào)整寬度（嵌入尺寸和通道數(shù)）和深度（Transformer 層數(shù)和 RepBlocks），以適應(yīng)不同場景的需求。

高效處理多尺度特征：集成了多尺度特征融合模塊，能夠同時處理大中小不同尺寸的目標，在檢測小目標時表現(xiàn)優(yōu)異。

帳篷檢測模型

該 AI 模型利用先進的 Swift yolo 算法，專注于帳篷識別，可以在實時視頻流中準確檢測和標記帳篷。它特別適用于 Seeed Studio Grove Vision AI （V2） 設(shè)備，提供高兼容性和穩(wěn)定性。

露營場景應(yīng)用

營地管理與布局優(yōu)化：

- 幫助營地主動監(jiān)控帳篷的分布情況，可以分析不同區(qū)域的帳篷數(shù)量，優(yōu)化露營地的布局，確保合理利用空間，避免擁堵。

安全與防災(zāi)：

- 在天氣突變或出現(xiàn)自然災(zāi)害時（如暴風雨、洪水等），可以實時檢測帳篷所在地的環(huán)境變化，警告營地管理者采取相應(yīng)措施，保障露營者的安全。

資源分配與監(jiān)控：

- 管理者可以根據(jù)檢測到的帳篷數(shù)量和分布，合理分配營地的水、電及其他資源，更高效地滿足露營者的需求。

數(shù)據(jù)收集與分析：

- 通過持續(xù)監(jiān)測帳篷的數(shù)量和動態(tài)變化，營地管理者可以收集露營高峰期的數(shù)據(jù)，從而為未來的活動策劃和資源配置提供參考。

客戶體驗提升：

- 通過分析帳篷的分布及活動情況，管理者可以為露營者提供個性化的建議，如推薦適合的露營區(qū)域、活動和服務(wù)，提升整體體驗。

野生動物監(jiān)測與管理：

- 利用帳篷檢測技術(shù)，營地管理人員可以監(jiān)控露營區(qū)域?qū)Ξ數(shù)厣鷳B(tài)環(huán)境的影響，合理安排活動，以保護野生動物棲息環(huán)境。

應(yīng)急響應(yīng)：

- 在緊急情況下，例如露營者的失蹤或事故發(fā)生時，模型可以幫助定位帳篷位置，快速調(diào)派救援力量。

智能化露營服務(wù)：

- 在自動化和智能化露營平臺中，帳篷檢測模型可以與其他智能設(shè)備和系統(tǒng)集成，為露營者提供實時信息和服務(wù)，如天氣預(yù)報、急救指引等。

在Grove-VisionAIV2上部署模型

1、打開SenseCraft AI平臺，如果第一次使用請先注冊一個會員賬號，還可以設(shè)置語言為中文。

平臺地址：https://sensecraft.seeed.cc/ai/#/model

2、在頂部單擊【預(yù)訓練模型】菜單，在公共AI模型列表9中找到【帳篷檢測】模型，單擊此模型圖片，如下圖所示。

3、進入【帳篷檢測】模型介紹頁面，單擊右側(cè)的“部署模型”按鈕，如下圖所示。

4、進入部署帳篷檢測模型頁面，按提示步驟先連接攝像頭，再連接設(shè)備到電腦USB接口上，最后單擊【連接設(shè)備】按鈕，如下圖所示。

5、彈出部署模型窗口，單擊“確定”按鈕，如下圖所示。

6、彈出連接到串行端口窗口，選擇端口號后單擊“連接”按鈕，如下圖所示。

7、開始進行模型部署、固件下載、設(shè)備重啟等過程，完成后在預(yù)覽中即可看到當前攝像頭視頻內(nèi)容，將攝像頭對準露營中的帳篷圖片查看預(yù)測效果，如下圖所示。

預(yù)測效果視頻演示

Grove Al視覺模塊 V2套裝介紹

Grove Al視覺模塊 V2

OV5647-62攝像頭

Grove - Vision Al Module V2是一款拇指大小的人工智能視覺模塊, 配備Himax WiseEye2 HX6538處理器, 該處理器采用 ArmCortex-M55雙核架構(gòu)。

它具有標準的CSI接口, 并與樹莓派相機兼容。它有一個內(nèi)置的數(shù)字麥克風和SD卡插槽。它非常適用于各種嵌入式視覺項目。

有了SenseCraft Al算法平臺, 經(jīng)過訓練的ML模型可以部署到傳感器, 而不需要編碼。它兼容XIAO系列和Arduino生態(tài)系統(tǒng), 是各種物體檢測應(yīng)用的理想選擇。

Arm Ethos-U55 嵌入式神經(jīng)網(wǎng)絡(luò)處理器（NPU）

嵌入式神經(jīng)網(wǎng)絡(luò)處理器（NPU）是一種特別設(shè)計用于執(zhí)行神經(jīng)網(wǎng)絡(luò)計算的高效率處理器。它主要基于數(shù)據(jù)驅(qū)動并行計算架構(gòu)，特別擅長處理視頻、圖像等大量的多媒體數(shù)據(jù)。NPU模仿了生物神經(jīng)網(wǎng)絡(luò)的架構(gòu)，與CPU、GPU相比，它能夠通過更少的指令（一條或幾條）完成神經(jīng)元的處理，因此在深度學習的處理效率方面具有明顯優(yōu)勢。

它具有標準的CSI接口, 并與樹莓派相機兼容。它有一個內(nèi)置的數(shù)字麥克風和SD卡插槽。它非常適用于各種嵌入式視覺項目。

有了SenseCraft Al算法平臺, 經(jīng)過訓練的ML模型可以部署到傳感器, 而不需要編碼。它兼容XIAO系列和Arduino生態(tài)系統(tǒng), 是各種物體檢測應(yīng)用的理想選擇。

主要硬件配置

- 板卡基于WiseEye2 HX6538處理器, 采用雙核ARM Cortex-M55架構(gòu) 。

- 配備集成Arm Ethos-U55微神經(jīng)網(wǎng)絡(luò)加速單元, 兼容的樹莓派相機

- 板載PDM麥克風, SD卡插槽, Type-C, Grove接口, 豐富的外設(shè)支持樣機開發(fā) 。

- Seeed Studio XIAO的可擴展性, SenseCraft Al的現(xiàn)成AI模型用于無代碼部署。

- 支持各種有效的模型, 包括MobilenetV1、MobilenetV2、 Eficientnet-Lite、Yolov5和Yolov8。

寫在最后

SenseCraft-AI平臺的模型倉數(shù)量還很少，但是好消息是它支持自定義模型上傳并輸出推理結(jié)果，平臺會逐漸增加模型倉的數(shù)量和分享有愛好者設(shè)計的模型倉原型，敬請關(guān)注！