●●●

PART. 01

產(chǎn)品簡介

Module LLM Kit 是一款專注于離線 AI 推理與數(shù)據(jù)通信接口應(yīng)用的智能模塊套件，整合了 Module LLM 與 Module13.2 LLM Mate 模塊，滿足多場景下的離線 AI 推理與數(shù)據(jù)交互需求。Module LLM 是一款集成化的離線大語言模型 (LLM) 推理模塊，專為需要高效、智能交互的終端設(shè)備設(shè)計。Module13.2 LLM Mate 模塊通過 M5BUS 接口與 Module LLM 實(shí)現(xiàn)堆疊供電，并提供Type-C，RJ45，FPC-8P 等多種接口功能，便于系統(tǒng)集成和擴(kuò)展。

PART. 02

產(chǎn)品特性

◎ 高算力，低能耗

Module LLM Kit 采用 愛芯AX630C SoC 先進(jìn)處理器，內(nèi)置 3.2 TOPs 高能效 NPU，支持 Transformer 模型推理，輕松應(yīng)對復(fù)雜 AI 任務(wù)。模塊搭載 4GB LPDDR4 內(nèi)存（其中 1GB 供用戶使用，3GB 專用于硬件加速）及 32GB eMMC 存儲，支持多模型并行加載與串聯(lián)推理，滿足多任務(wù)處理需求。模塊運(yùn)行功耗僅 1.5W，遠(yuǎn)低于同類產(chǎn)品，節(jié)能高效，適合長期穩(wěn)定運(yùn)行。

◎便捷語音與數(shù)據(jù)交互

集成麥克風(fēng)、揚(yáng)聲器、TF 存儲卡、USB OTG 及 RGB 狀態(tài)燈，滿足多樣化應(yīng)用需求，輕松實(shí)現(xiàn)語音交互與數(shù)據(jù)傳輸。

◎ 靈活拓展

板載 SD 卡槽支持固件冷/熱升級，UART 通信接口簡化連接與調(diào)試，確保模塊功能持續(xù)優(yōu)化與擴(kuò)展。USB 口支持主從自動切換，既可以做調(diào)試口，也可以外接更多 USB 設(shè)備如攝像頭。

◎多模型兼容

出廠預(yù)裝 Qwen2.5-0.5B 大語言模型，內(nèi)置 KWS（喚醒詞）、ASR（語音識別）、LLM（大語言模型）及 TTS（文本生成語音）功能，且支持 apt 快速更新軟件和模型包。安裝 openai-api 插件后，即可兼容 OpenAI 標(biāo)準(zhǔn) API，支持聊天、對話補(bǔ)全、語音轉(zhuǎn)文字和文字轉(zhuǎn)語音等多種應(yīng)用模式。官方 apt 倉庫提供豐富的大模型資源，包括 deepseek-r1-distill-qwen-1.5b、InternVL2_5-1B-MPO、Llama-3.2-1B、Qwen2.5-0.5B 以及 Qwen2.5-1.5B，同時還涵蓋文本轉(zhuǎn)語音模型（whisper-tiny、whisper-base、melotts）和視覺模型（如 yolo11 等 SOTA 模型）。倉庫將持續(xù)更新，以支持最前沿的模型應(yīng)用，滿足各種復(fù)雜 AI 任務(wù)。

◎ 即插即用，快速集成

搭配 M5 主機(jī)，無需繁瑣設(shè)置，即可將其集成到現(xiàn)有智能設(shè)備中，快速實(shí)現(xiàn) AI 交互體驗。

PART. 03

應(yīng)用場景

◎ 離線語音助手

◎ 文本語音轉(zhuǎn)換

◎ 智能家居控制

◎ 互動機(jī)器人