新聞提要

恩智浦在eIQ AI和機器學習開發(fā)軟件中增加了帶有檢索增強生成（RAG）與微調的生成式人工智能（GenAI）流程和eIQ Time Series Studio，以便在小型微控制器（MCU）、功能更強大的大型應用處理器（MPU）等各種邊緣處理器上輕松部署和使用AI。

恩智浦半導體宣布在其eIQ AI和機器學習開發(fā)軟件中增加兩款新工具，以便輕松在各種邊緣處理器上部署和使用AI邊緣。

eIQ Time Series Studio提供自動機器學習工作流程，可輕松在MCU級芯片（如MCX系列MCU產品組合或i.MX RT跨界MCU產品組合）上開發(fā)和部署基于時間序列的機器學習模型。

GenAI流程為支持生成式AI解決方案的大語言模型（LLM）提供構建模塊。此類方案與MPU（如恩智浦i.MX系列應用處理器）結合使用，通過在特定上下文數據中訓練LLM，簡化智能邊緣的部署。例如，配備LLM的電器經過用戶手冊訓練后，能夠用自然語言與用戶交流，告知用戶如何使用特定功能、執(zhí)行特定任務或優(yōu)化使用和維護。

重要意義

在邊緣部署AI有諸多好處，包括降低延遲、加強用戶隱私保護及減少能耗。恩智浦eIQ工具包擴展可顯著簡化并加速部署流程，開發(fā)人員能夠訪問更廣泛的使用各類模型類型，包括生成式AI、基于時間序列的模型以及基于視覺的模型。此外，用戶能夠在各類邊緣處理器上部署模型。

恩智浦半導體資深副總裁、工業(yè)和物聯網總經理Charles Dachs表示：“AI是實現基于用戶需求進行預測和自動化的關鍵，但它必須以適用于邊緣部署的方式進行開發(fā)。恩智浦為MCU（如MCX系列）、i.MX RT700等跨界MCU上的小型AI模型以及在i.MX 95應用處理器等更強大的設備上運行的大型生成式AI模型提供即時可用的工具，為開發(fā)人員提供了豐富的選擇，涵蓋各類AI模型和支持AI的邊緣處理器，使得邊緣AI真正適用于各行各業(yè)的應用開發(fā)人員” 。

eIQ Time Series Studio可簡化并加速基于時間序列的AI模型的開發(fā)與部署，支持多種輸入信號（如電壓、電流、溫度、振動、壓力、聲音、飛行時間及信號組合）以及多模態(tài)傳感器融合。借助自動機器學習功能，開發(fā)人員能夠從原始時間序列數據中提取有意義的見解，快速構建符合性能、內存、Flash存儲大小和精度要求的AI模型。該工具提供完整的開發(fā)環(huán)境，包括數據管理、可視化和分析以及模型自動生成、優(yōu)化、仿真和部署。界面簡潔直觀，軟件開發(fā)人員無需具備深厚的數據科學或AI專業(yè)知識即可創(chuàng)建經過優(yōu)化的異常檢測、分類和回歸庫。

恩智浦的GenAI流程使得生成式AI應用可以在邊緣設備上部署。這一軟件流程提供了優(yōu)化生成模型的方法，并提供檢索增強生成（RAG），可在不向模型或處理器提供商披露敏感信息的情況下，利用領域特定知識和私有數據以安全的方式微調模型。通過將多個模塊接入單一流程，客戶可根據其任務輕松定制LLM，并使用恩智浦i.MX 95應用處理器等MPU對其進行優(yōu)化，以便在邊緣部署。