一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

LLaVA、RWKV、Qwen3... 移遠(yuǎn)端側(cè)AI大模型解決方案實(shí)現(xiàn)多維度躍遷

移遠(yuǎn)通信 ? 2025-06-23 19:07 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群


當(dāng)AI以破竹之勢席卷千行百業(yè),大模型技術(shù)正以驚人的速度迭代演進(jìn),重塑著智能世界的底層邏輯。


作為全球AIoT行業(yè)的引領(lǐng)者,移遠(yuǎn)通信通過持續(xù)迭代和探索,在端側(cè)大模型解決方案上完成“三級(jí)跳”——在多模態(tài)感知、架構(gòu)創(chuàng)新、模型兼容性三大核心維度實(shí)現(xiàn)跨越式突破,不僅重新定義了終端設(shè)備的智能化邊界,更為AI普惠化落地開辟了全新路徑。近日,移遠(yuǎn)基于SG885G AI 算力模組的端側(cè)大模型解決方案,已成功運(yùn)行LLaVA-7B、RWKV7、Qwen3-4B等大模型。




感知維度升級(jí):引領(lǐng)多模態(tài)交互新范式


在智能終端的世界里,單一的語音對話或圖像識(shí)別,已無法滿足復(fù)雜場景的需求,多模態(tài)感知才是未來趨勢。移遠(yuǎn)通信敏銳捕捉行業(yè)發(fā)展脈絡(luò),在感知維度上持續(xù)創(chuàng)新,打造出“超級(jí)感官系統(tǒng)”,并不斷取得技術(shù)及應(yīng)用突破。


40155316-5022-11f0-986f-92fbcf53809c.jpg


自端側(cè)大模型解決方案發(fā)布以來,移遠(yuǎn)通信基于全語音鏈路的方案已在德壹機(jī)器人項(xiàng)目中順利落地,賦予機(jī)器人“能說會(huì)道”的本領(lǐng),使其語音交互能力更加自然、流暢。


近日,移遠(yuǎn)成功在其SG885G模組上部署7B參數(shù)多模態(tài)大模型LLaVA,讓移動(dòng)端擁有“火眼金睛”,實(shí)現(xiàn)實(shí)時(shí)物體識(shí)別與場景理解,完成了感知維度的再次重大升級(jí)。這一突破,讓移遠(yuǎn)成為業(yè)界首個(gè)提供端側(cè)全模態(tài)感知解決方案的模組廠商。


值得一提的是,移遠(yuǎn)還通過架構(gòu)級(jí)創(chuàng)新,實(shí)現(xiàn)了文本、語音、視覺三大模態(tài)的深度融合。這種融合并非簡單的功能疊加,而是從底層架構(gòu)出發(fā),讓不同模態(tài)的信息能夠相互補(bǔ)充、相互促進(jìn),形成更全面、更準(zhǔn)確的認(rèn)知能力,使得客戶終端能夠在復(fù)雜的實(shí)際場景中實(shí)現(xiàn)更智能、更高效的交互。


架構(gòu)創(chuàng)新探索:開辟端側(cè)AI計(jì)算新維度


在Transformer架構(gòu)主導(dǎo)大模型領(lǐng)域的當(dāng)下,移遠(yuǎn)通信以前瞻性的眼光,積極布局非Transformer的技術(shù)路線,致力于為客戶提供更低算力、更少內(nèi)存消耗的解決方案。


日前,移遠(yuǎn)SG885G模組已實(shí)現(xiàn)成功運(yùn)行RWKV7模型。RWKV(Receptance Weighted Key-Value)是一種極具創(chuàng)新性的神經(jīng)網(wǎng)絡(luò)架構(gòu),巧妙地融合了循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)的訓(xùn)練效率與Transformer的建模能力。其核心設(shè)計(jì)在于通過線性注意力機(jī)制取代傳統(tǒng)Transformer的自注意力,這一改進(jìn)有效解決了長序列處理中的計(jì)算瓶頸問題,同時(shí)還支持高效推理與并行訓(xùn)練,在計(jì)算效率和模型性能之間取得了良好的平衡。


RWKV架構(gòu)在多語言處理、小說創(chuàng)作、長期記憶保持等多個(gè)領(lǐng)域表現(xiàn)出色,展現(xiàn)出了廣泛的應(yīng)用前景。移遠(yuǎn)通信成功將其部署在端側(cè)模組上,意味著對于算力和內(nèi)存資源有限的“小身板”終端設(shè)備,也能擁有強(qiáng)大的AI“大心臟”。



模型生態(tài)擴(kuò)容:構(gòu)建端側(cè)大模型“超級(jí)平臺(tái)”


在模型兼容性方面,移遠(yuǎn)通信構(gòu)建了覆蓋主流開源模型的端側(cè)適配體系,打造出了功能強(qiáng)大的端側(cè)大模型“超級(jí)平臺(tái)”。從Llama到通義千問,再到DeepSeek,移遠(yuǎn)率先完成了對主流開源模型的全方位兼容,覆蓋參數(shù)規(guī)模從0.5B到8B,為不同場景的智能終端提供了豐富的模型選擇。


例如,移遠(yuǎn)通信在其SG885G AI算力模組上,成功實(shí)現(xiàn)Qwen3-4B模型的穩(wěn)定運(yùn)行,并對模型架構(gòu)和運(yùn)行環(huán)境進(jìn)行深度優(yōu)化。實(shí)測數(shù)據(jù)顯示,相比Qwen2.5,優(yōu)化后的Qwen3-4B模型,其平均響應(yīng)延遲降低了40%,交互體驗(yàn)直線升級(jí)。


站在AI技術(shù)變革的潮頭,移遠(yuǎn)通信始終堅(jiān)信:未來的智能,不應(yīng)局限于云端的數(shù)據(jù)中心,而應(yīng)該廣泛存在于每個(gè)終端、每個(gè)場景、每個(gè)人的掌心。通過持續(xù)的技術(shù)深耕與生態(tài)共建,移遠(yuǎn)通信正攜手合作伙伴,讓端側(cè)大模型成為智能時(shí)代的“新基建”,推動(dòng)AI技術(shù)在更廣闊的領(lǐng)域?qū)崿F(xiàn)普惠化應(yīng)用。


聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報(bào)投訴
  • 人工智能
    +關(guān)注

    關(guān)注

    1805

    文章

    48898

    瀏覽量

    247834
  • AIoT
    +關(guān)注

    關(guān)注

    8

    文章

    1497

    瀏覽量

    32209
  • AI大模型
    +關(guān)注

    關(guān)注

    0

    文章

    370

    瀏覽量

    542
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    廣和通加速通義千問Qwen3在端側(cè)全面落地

    6月,廣和通宣布:率先完成通義千問Qwen3系列混合推理模型在高通QCS8550平臺(tái)端側(cè)的適配部署。廣和通通過定制化混合精度量化方案與創(chuàng)新硬件加速算法,成功突破
    的頭像 發(fā)表于 06-25 15:35 ?156次閱讀

    壁仞科技完成Qwen3旗艦模型適配

    近日,在高效適配Qwen3系列模型推理后,壁仞科技宣布完成旗艦版Qwen3-235B-A22B模型的訓(xùn)練適配和優(yōu)化。由此,壁仞科技已實(shí)現(xiàn)
    的頭像 發(fā)表于 05-16 16:23 ?347次閱讀

    Arm CPU適配通義千問Qwen3系列模型

    與阿里巴巴開源的輕量級(jí)深度學(xué)習(xí)框架 MNN 已深度集成。得益于此,Qwen3-0.6B、Qwen3-1.7B 及 Qwen3-4B 三款模型能夠在搭載 Arm 架構(gòu) CPU 的移動(dòng)設(shè)
    的頭像 發(fā)表于 05-12 16:37 ?518次閱讀

    后摩智能NPU適配通義千問Qwen3系列模型

    近日,阿里云重磅推出Qwen3 系列開源混合推理模型。用時(shí)不到1天,后摩智能自研NPU迅速實(shí)現(xiàn)Qwen3 系列模型
    的頭像 發(fā)表于 05-07 16:46 ?471次閱讀

    壁仞科技完成阿里巴巴通義千問Qwen3全系列模型支持

    4月29日,阿里巴巴通義千問發(fā)布并開源8款新版Qwen3系列“混合推理模型”(簡稱“Qwen3”)。Qwen3發(fā)布后數(shù)小時(shí)內(nèi),壁仞科技完成全系列支持,并率先在壁仞科技開發(fā)者云平臺(tái)上線。
    的頭像 發(fā)表于 04-30 15:19 ?659次閱讀

    首創(chuàng)開源架構(gòu),天璣AI開發(fā)套件讓端側(cè)AI模型接入得心應(yīng)手

    ,聯(lián)發(fā)科帶來了全面升級(jí)的天璣AI開發(fā)套件2.0,在模型庫規(guī)模、架構(gòu)開放程度、前沿端側(cè)AI技術(shù)支持和端側(cè)LoRA訓(xùn)練落地等方面均迎來全面
    發(fā)表于 04-13 19:52

    AI模型端側(cè)部署正當(dāng)時(shí):遠(yuǎn)端側(cè)AI模型解決方案,激活場景智能新范式

    AI技術(shù)飛速發(fā)展的當(dāng)下,AI模型的應(yīng)用正從云端向端側(cè)加速滲透。 作為全球領(lǐng)先的物聯(lián)網(wǎng)整體解決方案供應(yīng)商,
    發(fā)表于 03-27 11:26 ?220次閱讀
    <b class='flag-5'>AI</b>大<b class='flag-5'>模型</b>端側(cè)部署正當(dāng)時(shí):<b class='flag-5'>移</b><b class='flag-5'>遠(yuǎn)端</b><b class='flag-5'>側(cè)</b><b class='flag-5'>AI</b>大<b class='flag-5'>模型</b><b class='flag-5'>解決方案</b>,激活場景智能新范式

    AI模型端側(cè)部署正當(dāng)時(shí):遠(yuǎn)端側(cè)AI模型解決方案,激活場景智能新范式

    AI技術(shù)飛速發(fā)展的當(dāng)下,AI模型的應(yīng)用正從云端向端側(cè)加速滲透。作為全球領(lǐng)先的物聯(lián)網(wǎng)整體解決方案供應(yīng)商,
    的頭像 發(fā)表于 03-26 19:05 ?426次閱讀
    <b class='flag-5'>AI</b>大<b class='flag-5'>模型</b>端側(cè)部署正當(dāng)時(shí):<b class='flag-5'>移</b><b class='flag-5'>遠(yuǎn)端</b><b class='flag-5'>側(cè)</b><b class='flag-5'>AI</b>大<b class='flag-5'>模型</b><b class='flag-5'>解決方案</b>,激活場景智能新范式

    遠(yuǎn)通信AI玩具整體解決方案全面升級(jí):融合火山引擎RTC大模型,打造實(shí)時(shí)交互新體驗(yàn)

    2月20日,全球領(lǐng)先的物聯(lián)網(wǎng)整體解決方案供應(yīng)商遠(yuǎn)通信宣布,其AI玩具整體解決方案實(shí)現(xiàn)全面的完善和升級(jí)。該
    發(fā)表于 02-21 09:50 ?364次閱讀
    <b class='flag-5'>移</b>遠(yuǎn)通信<b class='flag-5'>AI</b>玩具整體<b class='flag-5'>解決方案</b>全面升級(jí):融合火山引擎RTC大<b class='flag-5'>模型</b>,打造實(shí)時(shí)交互新體驗(yàn)

    遠(yuǎn)通信AI玩具整體解決方案全面升級(jí):融合火山引擎RTC大模型,打造實(shí)時(shí)交互新體驗(yàn)

    2月20日,遠(yuǎn)通信宣布,其AI玩具整體解決方案實(shí)現(xiàn)全面的完善和升級(jí)。該方案深度融合火山引擎AI
    的頭像 發(fā)表于 02-20 19:06 ?515次閱讀
    <b class='flag-5'>移</b>遠(yuǎn)通信<b class='flag-5'>AI</b>玩具整體<b class='flag-5'>解決方案</b>全面升級(jí):融合火山引擎RTC大<b class='flag-5'>模型</b>,打造實(shí)時(shí)交互新體驗(yàn)

    Qwen模型助力開發(fā)低成本AI推理方案

    的S1推理模型和伯克利的TinyZero模型,均是基于阿里巴巴的Qwen2.5-32b-Instruct模型進(jìn)行訓(xùn)練的。這一技術(shù)的運(yùn)用,使得兩款模型
    的頭像 發(fā)表于 02-12 09:19 ?571次閱讀

    廣和通正式推出AI玩具大模型解決方案

    ,即可實(shí)現(xiàn)音視頻及圖像的實(shí)時(shí)傳輸、語音識(shí)別、自然語言處理以及機(jī)器學(xué)習(xí)等多種功能。這意味著玩具能夠與用戶進(jìn)行更加豐富的互動(dòng),通過擬人、擬動(dòng)物或擬IP的形式,以視、聽、觸等多維度的方式與用戶進(jìn)行交流。 廣和通的AI玩具大
    的頭像 發(fā)表于 01-24 10:36 ?1141次閱讀

    廣和通AI解決方案內(nèi)置大模型,讓玩具成為你的智慧伙伴

    廣和通推出AI玩具大模型解決方案,該方案深度融合豆包等AI模型、內(nèi)置廣和通Cat.1模組,助力
    的頭像 發(fā)表于 01-21 11:03 ?562次閱讀
    廣和通<b class='flag-5'>AI</b><b class='flag-5'>解決方案</b>內(nèi)置大<b class='flag-5'>模型</b>,讓玩具成為你的智慧伙伴

    廣和通推出AI玩具大模型解決方案

    廣和通推出AI玩具大模型解決方案,該方案深度融合豆包等AI模型、內(nèi)置廣和通Cat.1模組,助力
    的頭像 發(fā)表于 01-21 10:27 ?724次閱讀

    遠(yuǎn)通信推出AI智能玩具解決方案

    為了滿足玩具廠商日益增長的智能化升級(jí)需求,遠(yuǎn)通信近日宣布推出了一款針對玩具市場的AI智能解決方案。該方案旨在通過AI
    的頭像 發(fā)表于 01-16 11:33 ?885次閱讀