2025 年春節(jié)前后，DeepSeek 橫空出世，改變了全球 AI 產(chǎn)業(yè)的市場(chǎng)格局與發(fā)展范式。DeepSeek 爆火進(jìn)一步激發(fā)了“邊緣 + AI”的市場(chǎng)剛需，顯著降低了大模型在邊緣設(shè)備的部署及運(yùn)營(yíng)成本。一時(shí)間，各類應(yīng)用紛紛接入 DeepSeek，包括搜索引擎、機(jī)器人、汽車、智能手機(jī)等。

移遠(yuǎn)通信產(chǎn)品總監(jiān)王韜在“綻放通信之美—預(yù)見端側(cè) AI 未來(lái)”主題直播中指出，DeepSeek 推動(dòng)端側(cè) AI 從被動(dòng)智能邁向主動(dòng)智能，但也引發(fā)了關(guān)于算力、算法與應(yīng)用的新思考和新挑戰(zhàn)。移遠(yuǎn)通信提供的端側(cè)大模型解決方案，深度融合 LLM（大語(yǔ)言模型）、RAG（檢索增強(qiáng)生成）與 Agent（智能體）等前沿技術(shù)，賦能端側(cè) AI 方案創(chuàng)新。

DeepSeek帶來(lái)端側(cè)AI發(fā)展新范式

端側(cè) AI 并非新興概念。早期，產(chǎn)業(yè)借助 DSP 等專用芯片處理語(yǔ)音識(shí)別、圖像增強(qiáng)等基礎(chǔ)任務(wù)。隨著芯片算力提升，產(chǎn)業(yè)開始探索將復(fù)雜算法融入終端設(shè)備。2021 年前后，將 AI 大模型能力植入端側(cè)興起，標(biāo)志著端側(cè) AI 進(jìn)入認(rèn)知智能階段。根據(jù)頭豹研究院發(fā)布的《2024 年中國(guó)端側(cè) AI 場(chǎng)景應(yīng)用分析：智能終端與邊緣計(jì)算的融合創(chuàng)新》報(bào)告，2023 年中國(guó)端側(cè) AI 市場(chǎng)規(guī)模達(dá) 1939 億元，預(yù)計(jì) 2028 年將增至 19071 億元，年均復(fù)合增長(zhǎng)率為 58%。

中國(guó)端側(cè) AI 市場(chǎng)規(guī)模，圖源：頭豹研究院

從千億級(jí)邁向萬(wàn)億級(jí)，端側(cè) AI 后續(xù)更大的增量源于端側(cè)應(yīng)用與邊緣計(jì)算、AI 大模型的融合。這種融合從技術(shù)架構(gòu)、場(chǎng)景創(chuàng)新和產(chǎn)業(yè)生態(tài)三個(gè)維度重塑端側(cè) AI 的邊界。移遠(yuǎn)通信產(chǎn)品經(jīng)理王柯指出，相較于云端 AI，端側(cè) AI 實(shí)時(shí)性更佳，推理成本更低，且保障了用戶隱私安全。此外，端側(cè) AI 使大模型推理擺脫網(wǎng)絡(luò)依賴，在信號(hào)不佳或無(wú)網(wǎng)絡(luò)服務(wù)區(qū)域也能提供推理服務(wù)。

然而，將云端AI 大模型部署到端側(cè)面臨諸多難題。比如，如何平衡端側(cè)推理效率與模型能力，怎樣實(shí)現(xiàn)硬件、軟件與商業(yè)模式的協(xié)同發(fā)展等。在 DeepSeek 出現(xiàn)前，端側(cè) AI 發(fā)展的難題是云端依賴與端側(cè)限制并存。端側(cè)設(shè)備受算力、存儲(chǔ)和功耗制約，難以承載超 10B 參數(shù)的大模型，需借助云端協(xié)同完成復(fù)雜任務(wù)，這導(dǎo)致響應(yīng)延遲和隱私風(fēng)險(xiǎn)。同時(shí)，模型功能單一，無(wú)法支持多模態(tài)交互或主動(dòng)決策。

DeepSeek 的出現(xiàn)對(duì)端側(cè) AI 發(fā)展具有革新意義。它采用創(chuàng)新的 MoE（混合專家）架構(gòu)，如在 DeepSeek-V3 模型中，每層包含 256 個(gè)路由專家和 1 個(gè)共享專家，每個(gè) Token 僅激活 8 個(gè)專家，大幅降低了訓(xùn)練和推理成本；通過(guò)高效蒸餾技術(shù)，將大模型推理能力遷移至更小、更高效的版本，彌補(bǔ)了小推理模型 Self-play 學(xué)習(xí)的不足；此外，DeepSeek-R1-Zero 實(shí)驗(yàn)性版本表明，僅通過(guò)強(qiáng)化學(xué)習(xí)就能獲得強(qiáng)大推理能力。

DeepSeek 的方法論使端側(cè)能夠獨(dú)立完成復(fù)雜任務(wù)，將應(yīng)用決策權(quán)從云端真正下放至邊端。王柯認(rèn)為，DeepSeek 闡釋了一種 “少即是多” 的 AI 大模型部署理念，進(jìn)一步推動(dòng)模型小型化發(fā)展?，F(xiàn)階段，3B 或 4B 參數(shù)級(jí)別的模型已等效于之前的 7B 參數(shù)模型。

移遠(yuǎn)通信產(chǎn)品經(jīng)理羅錚談到，從硬件角度看，DeepSeek 的一大優(yōu)勢(shì)在于以更小體量模型帶來(lái)更強(qiáng)能力，這使得小算力芯片、小容量存儲(chǔ)及小 BOM 就能實(shí)現(xiàn)高性能端側(cè) AI 方案。

當(dāng)前，端側(cè) AI 大模型主要落地場(chǎng)景包括 AI PC、AI 手機(jī)、AI 可穿戴設(shè)備、AI 智能家居、AI 智能汽車、AI 零售等。機(jī)器人應(yīng)用，尤其是人形機(jī)器人，則是端側(cè) AI 落地的藍(lán)海市場(chǎng)。端側(cè) AI 大模型部署通過(guò)技術(shù)架構(gòu)革新和場(chǎng)景適配能力突破，推動(dòng)機(jī)器人產(chǎn)業(yè)向更高階的自主化、智能化方向發(fā)展。一方面，端側(cè)部署大模型可提升機(jī)器人實(shí)時(shí)性和可靠性，通過(guò)本地化運(yùn)算大幅降低數(shù)據(jù)傳輸延遲，使機(jī)器人能在毫秒級(jí)的時(shí)間內(nèi)完成環(huán)境感知 - 決策 - 執(zhí)行閉環(huán)，滿足工業(yè)場(chǎng)景中精準(zhǔn)抓取、避障等高實(shí)時(shí)性需求；另一方面，端側(cè)部署大模型還可提升機(jī)器人交互性能，支持視覺、語(yǔ)音、觸覺等多模態(tài)數(shù)據(jù)實(shí)時(shí)融合處理，使服務(wù)型機(jī)器人實(shí)現(xiàn)更自然的擬人化交互。

移遠(yuǎn)通信產(chǎn)品經(jīng)理沈鋒稱，對(duì)于機(jī)器人等端側(cè) AI 應(yīng)用而言，DeepSeek 帶來(lái)的直觀影響是能以更低成本實(shí)現(xiàn)相同性能，使越來(lái)越多領(lǐng)域愿意投資端側(cè) AI。

移遠(yuǎn)通信為端側(cè)AI落地提供一站式解決方案

正如移遠(yuǎn)通信幾位產(chǎn)品經(jīng)理在直播中所分享，移遠(yuǎn)通信為端側(cè) AI 落地提供涵蓋智能硬件、算力、算法和服務(wù)的完整解決方案，助力用戶快速實(shí)現(xiàn)端側(cè) AI 從概念到落地的商業(yè)轉(zhuǎn)化。

高效支持主流 AI 大模型

AI 大模型是 AI Agent 的核心。目前，移遠(yuǎn)大模型解決方案可實(shí)現(xiàn) AI 模型的端側(cè)部署，支持通義千問(wèn)、DeepSeek 等主流 AI 大模型。

針對(duì)當(dāng)下大熱的 DeepSeek，DeepSeek-R1 版本專注于強(qiáng)化學(xué)習(xí)技術(shù)路線，其蒸餾版本參數(shù)范圍為 1.5B 至 70B。得益于蒸餾技術(shù)，這些小模型雖體量小但性能強(qiáng)勁，是端側(cè) AI 部署的理想選擇。目前，移遠(yuǎn)通信高算力AI智能模組 SG885G已能穩(wěn)定運(yùn)行 DeepSeek-R1 蒸餾小模型，并完成了針對(duì)性微調(diào)。

實(shí)測(cè)數(shù)據(jù)顯示，移遠(yuǎn)通信 SG885G 模組運(yùn)行 DeepSeek-R1 蒸餾小模型的方案，其生成 Tokens 的速度超每秒 40 個(gè) Tokens。按人類講話速度換算，人類每分鐘能講 300 - 400 個(gè)字，約 500 - 600 個(gè) Tokens。因此，能支持每秒準(zhǔn)確輸出 10 個(gè)Tokens 的 AI 模型即可滿足商業(yè)落地條件。

未來(lái)，隨著性能持續(xù)優(yōu)化，該方案的速度還將進(jìn)一步提升，為智能終端設(shè)備賦予更強(qiáng)大的 AI 能力。該方案適用于智能機(jī)器人、智能座艙、機(jī)器視覺、個(gè)性化虛擬助理、平板電腦、老人監(jiān)護(hù)、智能家居、AI 玩具及可穿戴設(shè)備等多元場(chǎng)景。

王柯表示，在眾多廠商還在探索如何支持 DeepSeek 模型時(shí)，移遠(yuǎn)通信已率先取得突破，這充分彰顯了移遠(yuǎn)通信技術(shù)團(tuán)隊(duì)卓越的工程化能力，能夠快速完成方案設(shè)計(jì)、模型微調(diào)、端側(cè)部署和資源調(diào)度等工作。

在端側(cè) AI 交互至關(guān)重要的語(yǔ)音交互領(lǐng)域，移遠(yuǎn)通信大模型解決方案在全語(yǔ)音鏈路上實(shí)現(xiàn)無(wú)縫銜接與高效運(yùn)行，涵蓋 KWS 語(yǔ)音喚醒、VAD 人聲檢測(cè)、ASR 語(yǔ)音識(shí)別和 TTS 語(yǔ)音播報(bào)等主流功能，助力用戶快速實(shí)現(xiàn)基于語(yǔ)音的無(wú)感交互。

滿足端側(cè) AI 廣泛需求的模組產(chǎn)品矩陣

邊緣計(jì)算智能模組是AI Agent 的基石。移遠(yuǎn)通信面向端側(cè) AI 應(yīng)用提供豐富的模組產(chǎn)品。SG885G-WF 是該公司目前在端側(cè) AI 領(lǐng)域主推的一款智能模組，集成高通 QCS8550 芯片，綜合算力高達(dá) 48 TOPS，并提供 LCM、攝像頭、觸摸屏、I2S、PCIe、UART、USB、I2C 等豐富接口資源。為滿足端側(cè) AI 在不同算力、成本、功耗方面的需求，移遠(yuǎn)通信還提供包括但不限于以下產(chǎn)品系列：

■ 基于高通 QCS8250 的 SG865W 系列，算力為 15 TOPS;

■ 基于高通 QCM6490 的 SG560D 系列，算力為 12 TOPS；

■ 基于展銳 UIS7885 的 SG530C 系列，算力為 8 TOPS；

■ 基于瑞芯微 RK3568 的 SG368Z 系列，算力為 1 TOPS。

羅錚介紹，總體而言，移遠(yuǎn)通信的智能模組可覆蓋 1 TOPS 到 48 TOPS 的算力需求，公司還在規(guī)劃 80 - 100 TOPS 甚至更高算力的產(chǎn)品，以滿足客戶在端側(cè) AI 不斷增長(zhǎng)的算力需求。

同時(shí)，移遠(yuǎn)通信也打造了有利于用戶方案實(shí)現(xiàn)的開發(fā)板，比如MWC 2025上公司推出QuecPi Alpha智能生態(tài)開發(fā)板，基于高通躍龍QCS6490處理器打造，AI算力高達(dá)12 TOPS，能夠滿足眾多AIoT應(yīng)用場(chǎng)景中對(duì)物體識(shí)別、圖像識(shí)別等功能的多樣化需求。這些硬件方案都能靈活支持安卓、Linux 和 Ubuntu 等操作系統(tǒng)，充分滿足客戶在高端機(jī)器人和端側(cè) AI 方面的開發(fā)需求。移遠(yuǎn)通信的軟硬件產(chǎn)品組合及背后的技術(shù)服務(wù)，能讓用戶便捷地完成不同算力平臺(tái)間的切換，加速產(chǎn)品升級(jí)迭代進(jìn)程。

QuecPi Alpha智能生態(tài)開發(fā)板

智能模組 + AI 大模型，重構(gòu)端側(cè) AI 應(yīng)用

如前所述，移遠(yuǎn)通信的智能模組和大模型解決方案有著豐富的應(yīng)用場(chǎng)景。下面通過(guò)具體案例，看看移遠(yuǎn)通信如何借助智能模組 + AI 大模型賦能端側(cè) AI 應(yīng)用。

第一個(gè)案例是當(dāng)下熱門的 AI 機(jī)器人。基于移遠(yuǎn)通信端側(cè)大模型解決方案中的 SG885G-WF 智能模組和全語(yǔ)音鏈路架構(gòu)，服務(wù)機(jī)器人能對(duì)指令、提問(wèn)或求助迅速響應(yīng)，準(zhǔn)確理解用戶意圖，并以清晰自然的語(yǔ)音反饋，實(shí)現(xiàn)無(wú)感交互。尤其值得一提的是，得益于 SG885G-WF的高算力，移遠(yuǎn)“大模型+AI 機(jī)器人”解決方案在離線狀態(tài)下也能提供完整 AI 性能。

這一方案使服務(wù)機(jī)器人在終端市場(chǎng)具備巨大應(yīng)用價(jià)值，涵蓋醫(yī)療康養(yǎng)、智能客服、接待導(dǎo)覽和零售導(dǎo)購(gòu)等領(lǐng)域。在具體落地過(guò)程中，移遠(yuǎn)通信技術(shù)團(tuán)隊(duì)提供高效、全面的工程化支持，助力客戶產(chǎn)品快速進(jìn)入市場(chǎng)，并形成差異化競(jìng)爭(zhēng)優(yōu)勢(shì)。比如，在醫(yī)療康養(yǎng)領(lǐng)域，德壹機(jī)器人基于移遠(yuǎn)通信集成SG885G-WF模組的端側(cè)AI解決方案推出了全能王AI具身機(jī)器人，支持8自由度3D視覺導(dǎo)航，融合尖端AI技術(shù)、中醫(yī)理療智慧與具身智能，重新定義了智能理療服務(wù)邊界。

沈鋒認(rèn)為，DeepSeek 等 AI 大模型的推出為機(jī)器人行業(yè)發(fā)展注入新活力，重塑了機(jī)器人的 “大腦”?，F(xiàn)階段，機(jī)器人僅具備一些基礎(chǔ)能力，交互方面存在較大欠缺，AI 大模型的加入將改善這一狀況。未來(lái)，落地到終端的AI機(jī)器人會(huì)越來(lái)越多，這將是一個(gè)在未來(lái) 5 年增長(zhǎng)率極高的領(lǐng)域。

第二個(gè)案例是 AI 智能無(wú)人零售解決方案，移遠(yuǎn)通信通過(guò)大模型重新定義無(wú)人零售的交互體驗(yàn)。在 MWC 2025 上，移遠(yuǎn)通信宣布推出圍繞 “動(dòng)態(tài)視覺 + 邊緣計(jì)算” 構(gòu)建的全新 AI 智能無(wú)人零售解決方案。該方案基于移遠(yuǎn)高性能5G AI算力模組 SG560D，支持先進(jìn)的全鏈路商品識(shí)別算法，識(shí)別準(zhǔn)確率高達(dá) 99%，還具備創(chuàng)新的上新平臺(tái)等軟硬件服務(wù)，可無(wú)縫對(duì)接客戶應(yīng)用程序。除 SG560D 模組搭載的QCM6490平臺(tái)外，移遠(yuǎn)通信這套方案還能兼容更多算力平臺(tái)，滿足零售機(jī)廠商的差異化競(jìng)爭(zhēng)需求。

目前，移遠(yuǎn) AI 智能無(wú)人零售解決方案已與興元科技 “喵星人” 智能售貨機(jī)等多家客戶產(chǎn)品完成系統(tǒng)集成，并進(jìn)入實(shí)地場(chǎng)景測(cè)試階段。

結(jié)語(yǔ)

作為端側(cè) AI 生態(tài)的重要構(gòu)建者，移遠(yuǎn)通信正通過(guò)“智能模組 + AI 大模型”雙輪驅(qū)動(dòng)，重塑端側(cè) AI 的產(chǎn)業(yè)格局。其一站式大模型解決方案深度融合 DeepSeek 等前沿 AI 模型，結(jié)合SG885G-WF 等高性能AI模組，成功突破端側(cè)部署的算力瓶頸與工程難題，在機(jī)器人、智能零售、汽車電子等場(chǎng)景中，構(gòu)建起 “本地決策 - 實(shí)時(shí)交互 - 隱私保護(hù)” 的閉環(huán)能力。

未來(lái)，移遠(yuǎn)通信將持續(xù)深化算力平臺(tái)迭代，推出 80 – 100 TOPS 甚至更高算力的智能模組，結(jié)合場(chǎng)景化算法優(yōu)化，將 AI 大模型的能力拓展至更廣泛的端側(cè) AI 場(chǎng)景。