還在羨慕那些動(dòng)輒幾十GB顯存的AI大佬?今天，我們用一塊小小的FRDM-MCXN947開(kāi)發(fā)板，就能讓你體驗(yàn)到與大語(yǔ)言模型暢聊的快感!誰(shuí)說(shuō)嵌入式設(shè)備只能閃爍LED?今天我們就要讓它"口吐蓮花"!

從"Hello World"到"Hey, AI"

記得剛?cè)胄袝r(shí)，點(diǎn)亮一個(gè)LED燈都激動(dòng)半天。如今，我們的嵌入式設(shè)備已經(jīng)可以直接和AI大模型對(duì)話(huà)了!這不僅是技術(shù)的進(jìn)步，更是開(kāi)發(fā)思路的革命。今天，我將手把手教大家如何在NXP的FRDM-MCXN947開(kāi)發(fā)板上接入DeepSeek大模型，讓你的單片機(jī)秒變"AI終端"!

本文將詳細(xì)介紹如何利用RT-Thread操作系統(tǒng)和網(wǎng)絡(luò)功能，讓FRDM-MCXN947開(kāi)發(fā)板成功接入DeepSeek大語(yǔ)言模型，實(shí)現(xiàn)實(shí)時(shí)對(duì)話(huà)功能。

準(zhǔn)備工作：工欲善其事，必先利其器~

硬件準(zhǔn)備

FRDM-MCXN947開(kāi)發(fā)板：NXP的明星開(kāi)發(fā)板, MCX系列最強(qiáng)王者，搭載150MHz Arm Cortex-M33內(nèi)核

網(wǎng)絡(luò)連接：RT-Thread RW007 WIFI模塊

USB TypeC 線：用于供電和調(diào)試

軟件準(zhǔn)備

RT-Thread V5.2.0: RT-Thread 5.2.0版本 或者master最新分支

DeepSeek API Key: 用于訪問(wèn)DeepSeek大模型的API KEY, 見(jiàn)下節(jié)

Keil

申請(qǐng) DeepSeek API KEY

首先，我們需要前往DeepSeek官網(wǎng) ：https://platform.deepseek.com/api_keys

1. 注冊(cè)并登錄DeepSeek賬號(hào)

2. 進(jìn)入開(kāi)發(fā)者控制臺(tái)

3. 創(chuàng)建新的API Key

4. 復(fù)制并保存API Key(注意：這個(gè)Key只顯示一次!)牢記你的API KEY!

環(huán)境配置

1. 我們需要確保RT-Thread能夠正常運(yùn)行在MCXN947上，并且網(wǎng)絡(luò)功能正常。這屬于基礎(chǔ)配置部分,已經(jīng)有完善的教程,參見(jiàn): NXP FRDM-MCXN947 上手指南. 這里不再贅述。

2. 進(jìn)入RT-Thread env工具的menuconfig. 在menuconfig中，我們需要啟用以下功能：

開(kāi)啟RT-Thread 大預(yù)言模型包：

RT-Thread online packages → AI packages → LargeLanguage Models(LLM) for RT-Thread 并且在config中輸入自己的API KEY

開(kāi)啟Webclient組件:

RT-Thread online packages → IoT - internet of things →WebClient: A HTTP/HTTPS Client for RT-Thread，選擇 MbedTLS support

退出保存配置，輸入 pkgs --update 拉取軟件包;

生成Keil工程 scons --target=mdk5

完成所有配置后，我們可以編譯并運(yùn)行程序,如果一切順利，你應(yīng)該能在串口終端看到RT-Thread的啟動(dòng)信息:

首先先輸入你的WiFi 用戶(hù)名密碼,先讓板子上網(wǎng):

看到 Got IP address 說(shuō)明已經(jīng)成功通過(guò)WIFI模塊連接到了網(wǎng)絡(luò), 下面,輸入llm進(jìn)入大模型對(duì)話(huà)框,然后就可以和DeepSeek聊天啦:

實(shí)際應(yīng)用場(chǎng)景

將LLM功能集成到嵌入式設(shè)備中，可以開(kāi)啟許多有趣的應(yīng)用場(chǎng)景：

1. 智能家居控制：通過(guò)自然語(yǔ)言控制家中設(shè)備

2. 工業(yè)設(shè)備診斷：詢(xún)問(wèn)設(shè)備狀態(tài)和故障診斷

3. 教育輔助設(shè)備：創(chuàng)建交互式學(xué)習(xí)工具

4. 智能客服終端：部署在公共場(chǎng)所的信息查詢(xún)終端

5. 輔助開(kāi)發(fā)工具：在開(kāi)發(fā)過(guò)程中提供代碼建議和調(diào)試幫助

優(yōu)化與改進(jìn)

現(xiàn)在只是串口終端交互,后期如果能改成語(yǔ)音交互,體驗(yàn)感就能更上一個(gè)層次了,可以做成一個(gè)超級(jí)“天貓精靈” 或者“小愛(ài)同學(xué)”

目前這套代碼并未細(xì)致的優(yōu)化,所以大預(yù)言模型的反應(yīng)速度比較慢,一般需要1-4秒,且RAM占用比較大(160KB)左右,筆者曾經(jīng)嘗試移植到FRDM-MCXA156上(1MFlash, 128KB RAM),RAM就不夠用了,目前還在優(yōu)化中-_-!

結(jié)語(yǔ)與完整代碼下載

通過(guò)本文的實(shí)踐，我們成功地將FRDM-MCXN947開(kāi)發(fā)板變成了一個(gè)能與DeepSeek大模型對(duì)話(huà)的AI終端。這不僅展示了NXP MCU強(qiáng)大的網(wǎng)絡(luò)通信能力，也為嵌入式設(shè)備的智能化應(yīng)用開(kāi)辟了新的可能性。

未來(lái)，隨著邊緣計(jì)算技術(shù)的發(fā)展，我們甚至可以期待在MCU上直接運(yùn)行輕量級(jí)LLM模型，實(shí)現(xiàn)真正的本地AI推理。而現(xiàn)在通過(guò)API調(diào)用云端大模型，我們已經(jīng)能夠?yàn)榍度胧皆O(shè)備賦予"智慧"。

寫(xiě)在最后：當(dāng)年我們用51單片機(jī)點(diǎn)亮LED時(shí)，誰(shuí)能想到今天我們用MCU就能和AI對(duì)話(huà)?技術(shù)的進(jìn)步總是超出想象。下一個(gè)十年，也許你手中的開(kāi)發(fā)板將擁有超越今天旗艦手機(jī)的AI能力。未來(lái)已來(lái)!

本文demo內(nèi)容預(yù)計(jì)在今年的NXP RT-Thread線下培訓(xùn)中作為Demo內(nèi)容展示,所有代碼我已經(jīng)上傳到了百度網(wǎng)盤(pán):

鏈接: https://pan.baidu.com/s/19EYJJB953z-QtGr_zVz5MA 提取碼: 92x2

參考 1. RT-Thread官方文檔 2. DeepSeek API文檔 3. FRDM-MCXN947開(kāi)發(fā)板用戶(hù)手冊(cè)

恩智浦MCU加油站

恩智浦半導(dǎo)體NXP Semiconductors N.V.(納斯達(dá)克股票代碼：NXPI)是汽車(chē)、工業(yè)物聯(lián)網(wǎng)、移動(dòng)設(shè)備和通信基礎(chǔ)設(shè)施市場(chǎng)值得信賴(lài)的合作伙伴，致力于提供創(chuàng)新解決方案。