NXP Semiconductors 推出了名為 eIQ Auto 的新深度學(xué)習(xí)工具包。恩智浦正在尋求通過使其工具“汽車品質(zhì)”來使自己在競爭中脫穎而出。NXP 的目標(biāo)是讓 AV 設(shè)計人員更輕松地在車輛中實施深度學(xué)習(xí)。
自動駕駛汽車 (AV) 的發(fā)展不一定需要人工智能或深度學(xué)習(xí)。簡而言之,并非所有 AV 都需要由 AI 驅(qū)動。然而,深度學(xué)習(xí)的快速進步和更高的準(zhǔn)確性正吸引著尋求改進其高度自動化車輛的開發(fā)人員。
然而,驗證 AI 驅(qū)動的 AV 安全性的困難仍然存在。安全研究人員擔(dān)心深度學(xué)習(xí)的“黑箱”性質(zhì),而這只是幾個棘手問題之一。AV 設(shè)計師是否可以驗證和驗證持續(xù)學(xué)習(xí)的 AI 系統(tǒng),或者 AI 功能一旦部署在車輛內(nèi)的專用硬件中,其行為是否與在更大、更強大的計算機系統(tǒng)上開發(fā)和訓(xùn)練時的行為相同仍然不確定.
盡管存在這些擔(dān)憂,但 AV 和安全社區(qū)都認(rèn)識到 AI 不是他們可以避免討論的話題。
隨著上周 UL 4600 規(guī)范草案的發(fā)布,Edge Case Research 的首席技術(shù)官 Phil Koopman 告訴我們,“我們將正面追求完全自治?!?/p>
UL 4600 是一種評估目前在 Underwriters' Laboratories 開發(fā)的自動駕駛產(chǎn)品的安全標(biāo)準(zhǔn),它既不假設(shè)也不強制要求在 AV 內(nèi)部部署深度學(xué)習(xí)。但該標(biāo)準(zhǔn)涵蓋了對生命關(guān)鍵應(yīng)用程序中使用的任何機器學(xué)習(xí)和其他自主功能的驗證。
用于深度學(xué)習(xí)的汽車級軟件工具包
在此背景下,NXP Semiconductors 推出了其 eIQ Auto 深度學(xué)習(xí)工具包。
“迄今為止開發(fā)的大多數(shù)深度學(xué)習(xí)框架和神經(jīng)網(wǎng)絡(luò)都用于視覺、語音和自然語言等消費類應(yīng)用,”恩智浦半導(dǎo)體汽車人工智能戰(zhàn)略和合作伙伴關(guān)系總監(jiān) Ali Osman Ors 說。它們的開發(fā)不一定考慮到對生命至關(guān)重要的應(yīng)用程序。
(來源:NXP)點擊這里查看大圖
領(lǐng)先的汽車芯片供應(yīng)商 NXP 正在進一步使其軟件工具包符合汽車軟件性能改進和能力確定 (A-SPICE) 標(biāo)準(zhǔn)。A-SPICE 是德國汽車制造商為改進軟件開發(fā)流程而制定的一套指南。
NXP 解釋說,其 eIQ Auto 工具集——專為 NXP 的 S32V234 處理器設(shè)計——將幫助 AV 開發(fā)人員“優(yōu)化深度學(xué)習(xí)算法的嵌入式硬件開發(fā)并加快上市時間。”
當(dāng)被問及是否有類似的汽車級工具包可用于深度學(xué)習(xí)時,Ors 說:“一些汽車 OEM 可能已經(jīng)在內(nèi)部設(shè)計了自己的工具。但據(jù)我所知,我還沒有看到其他汽車芯片供應(yīng)商提供像我們這樣用于深度學(xué)習(xí)的汽車級軟件工具包?!?/p>
剪枝、量化和壓縮
數(shù)據(jù)準(zhǔn)備和訓(xùn)練(學(xué)習(xí))的過程以及在嵌入式系統(tǒng)上的 AI 部署(推理)過程都很好理解。
如今,據(jù)說 AV 開發(fā)人員在測試車輛在公共道路上行駛時以每秒 4GB 的速度收集數(shù)據(jù)。清理和注釋如此大量的數(shù)據(jù)并為訓(xùn)練數(shù)據(jù)做好準(zhǔn)備可能會非常昂貴。在某些情況下,僅數(shù)據(jù)標(biāo)記處理就可以在財務(wù)上削弱算法開發(fā)人員和 AV 初創(chuàng)公司。
但對 AV 設(shè)計人員同樣具有挑戰(zhàn)性的是,盡管很少公開討論,但優(yōu)化訓(xùn)練好的 AI 模型并將其轉(zhuǎn)換為部署(在推理引擎上)所涉及的艱巨任務(wù)。Ors 解釋說,NXP 的工具加速了“量化、修剪和壓縮”神經(jīng)網(wǎng)絡(luò)的過程。
通過剪枝,Ors 意味著通過去除不重要的權(quán)重來移除神經(jīng)網(wǎng)絡(luò)架構(gòu)中存在的冗余連接。當(dāng)然,一個新的“剪枝”模型會失去準(zhǔn)確性。因此,模型必須在修剪后進行微調(diào)以恢復(fù)其準(zhǔn)確性。
接下來,量化創(chuàng)建了一個“高效的計算過程”,Ors 說。它涉及通過對權(quán)重進行聚類或四舍五入來捆綁權(quán)重,以便可以使用更少的內(nèi)存來表示相同數(shù)量的連接。另一種常見的技術(shù)是通過四舍五入將浮點權(quán)重轉(zhuǎn)換為定點表示。與剪枝一樣,模型必須在量化后進行微調(diào)。
AV 設(shè)計師通過運行測試數(shù)據(jù)(深度學(xué)習(xí)系統(tǒng)以前從未見過)來評估轉(zhuǎn)換模型的準(zhǔn)確性,并進一步微調(diào)模型。
(來源:NXP)點擊這里查看大圖
分區(qū)工作負(fù)載
恩智浦表示,除此之外,eIQ Auto“對工作負(fù)載進行分區(qū)并為神經(jīng)網(wǎng)絡(luò)的每個部分選擇最佳計算引擎?!?Ors 解釋說,它加快了手工制作推理引擎的過程,因為該工具可以幫助 AV 設(shè)計人員確定哪些任務(wù)在 CPU、DSP 或 GPU 中運行得最好。他說 eIQ Auto 不能用于非 NXP 設(shè)備,因為該工具必須非常熟悉處理器內(nèi)部發(fā)生的事情。
審核編輯 黃昊宇
-
AI
+關(guān)注
關(guān)注
88文章
35109瀏覽量
279595 -
汽車
+關(guān)注
關(guān)注
15文章
3856瀏覽量
39532
發(fā)布評論請先 登錄
【EASY EAI Orin Nano開發(fā)板試用體驗】EASY-EAI-Toolkit初體驗
基于RV1126開發(fā)板的rknn-toolkit-lite使用方法

首創(chuàng)開源架構(gòu),天璣AI開發(fā)套件讓端側(cè)AI模型接入得心應(yīng)手
Arm+AWS實現(xiàn)AI定義汽車 基于Arm KleidiAI優(yōu)化并由AWS提供支持

Banana Pi 發(fā)布 BPI-AI2N & BPI-AI2N Carrier,助力 AI 計算與嵌入式開發(fā)
如何確定在OpenVINO? Toolkit中預(yù)處理支持的輸入顏色格式?
米爾RK3576開發(fā)板評測】+ RKLLM-Toolkit 環(huán)境安裝
正點原子ESP32S3系列開發(fā)板全面支持小智AI
【ELF 2學(xué)習(xí)板試用】利用RKNN-Toolkit2實現(xiàn)rknn模型轉(zhuǎn)換
CES 2025亮點:高通攜行業(yè)領(lǐng)先的AI創(chuàng)新與合作成果亮相 覆蓋PC、汽車、智能家居及企業(yè)級領(lǐng)域
NVIDIA RTX AI Toolkit擁抱LoRA技術(shù)

評論