前言

在RT-Thread論壇上忽然看到了單片機(jī)和大模型對(duì)話的文章，想著春節(jié)期間看到大語言模型的熱度持續(xù)攀升，恰巧手頭有塊RA8D1 Vision Board開發(fā)板，于是嘗試著在Vision Board上對(duì)接下大語言模型的API，實(shí)現(xiàn)智能對(duì)話功能。

測(cè)試平臺(tái)

●Vision Board

●RT-Thread Studio

●RT-Thread 5.0.2

●MobaXterm

實(shí)現(xiàn)過程（以Vision Board為例）

1. 登錄 DeepSeek-API ：

https://api-docs.deepseek.com/zh-cn/

2. 創(chuàng)建 DeepSeek 的API-KEY：

3. 基于Vision Board新建wifi示例工程

4. 配置LLM軟件包：雙擊 RT-Thread Settings，選擇添加軟件包，搜索llm關(guān)鍵字

5. 添加此軟件包到工程，接下來進(jìn)行軟件包配置，輸入上面獲取的API-KEY：

6. 配置WebClient-TLS模式：

在RT-Thread Settings->軟件包->IoT-物聯(lián)網(wǎng)->WebClient->選擇TLS模式目錄下，選擇MbedTLS support。

7. 使能軟件RTC功能

8. 更新軟件包配置：

在RT-Thread Settings界面下Ctrl+S保存軟件包配置，隨后編譯代碼，燒錄即可。

9. 開發(fā)板手動(dòng)連接Wifi：

打開串口終端工具，輸入wifi join [wifi名稱] [wifi密碼]

10. 輸入llm即可進(jìn)入聊天終端，CTRL+D可以退出聊天窗口返回MSH終端：

開源倉(cāng)庫(kù)地址，歡迎體驗(yàn)~

https://github.com/Rbb666/llm_chat

注意：由于當(dāng)前Deepseek服務(wù)器資源緊張，可能會(huì)出現(xiàn)連接失敗，導(dǎo)致如下報(bào)錯(cuò)：

可嘗試切換豆包或阿里通義千問大語言模型進(jìn)行體驗(yàn)。