一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

高通支持Meta Llama 3大語言模型在驍龍旗艦平臺(tái)上實(shí)現(xiàn)終端側(cè)執(zhí)行

高通中國 ? 來源:高通中國 ? 2024-04-20 09:13 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

要點(diǎn)

?高通和Meta合作優(yōu)化Meta Llama 3大語言模型,支持在未來的驍龍旗艦平臺(tái)上實(shí)現(xiàn)終端側(cè)執(zhí)行。

?開發(fā)者將能夠訪問高通AI Hub中的資源和工具,以實(shí)現(xiàn)在驍龍平臺(tái)上優(yōu)化運(yùn)行Llama 3,從而縮短產(chǎn)品上市時(shí)間并充分發(fā)揮終端側(cè)AI的優(yōu)勢。

?高通技術(shù)公司的終端側(cè)AI能力包括行業(yè)領(lǐng)先的NPU、CPUGPU技術(shù)組合,賦能生成式AI應(yīng)用實(shí)現(xiàn)即時(shí)性、增強(qiáng)的可靠性、隱私性、情境感知個(gè)性化和成本效益。

今日,高通技術(shù)公司和Meta宣布合作,以優(yōu)化Meta Llama 3大語言模型(LLM)直接在智能手機(jī)、PC、VR/AR頭顯和汽車等終端上的執(zhí)行。在終端側(cè)運(yùn)行Llama 3具有顯著優(yōu)勢,包括出色的響應(yīng)能力、增強(qiáng)的隱私性和可靠性,以及為用戶帶來更加個(gè)性化的體驗(yàn)。

高通技術(shù)公司高級(jí)副總裁兼技術(shù)規(guī)劃和邊緣解決方案業(yè)務(wù)總經(jīng)理馬德嘉(Durga Malladi)表示:

我們贊賞Meta針對Meta Llama 3的開放策略,高通和Meta都致力于賦能開發(fā)者,激發(fā)AI創(chuàng)新。高通的終端側(cè)AI領(lǐng)導(dǎo)力,結(jié)合跨不同邊緣終端的廣泛市場布局,使我們能夠在全球范圍內(nèi)擴(kuò)大Llama生態(tài)系統(tǒng)優(yōu)勢,賦能客戶、合作伙伴和開發(fā)者打造新一代開創(chuàng)性AI體驗(yàn)。

此次合作旨在賦能OEM廠商和開發(fā)者,在搭載未來旗艦驍龍平臺(tái)的終端上支持Llama 3,推動(dòng)生成式AI功能的普及。高通技術(shù)公司強(qiáng)大的異構(gòu)計(jì)算能夠無縫利用行業(yè)領(lǐng)先的CPU、GPU和NPU處理器,并結(jié)合先進(jìn)的內(nèi)存架構(gòu),賦能客戶、合作伙伴和開發(fā)者實(shí)現(xiàn)最佳應(yīng)用性能、能效和電池續(xù)航。

開發(fā)者可通過高通AI Hub訪問相關(guān)資源和工具,以實(shí)現(xiàn)在驍龍平臺(tái)上優(yōu)化運(yùn)行Llama 3。高通AI Hub目前可提供約100個(gè)優(yōu)化AI模型,能夠?yàn)殚_發(fā)者縮短產(chǎn)品上市時(shí)間,并使他們的應(yīng)用能夠發(fā)揮終端側(cè)AI的優(yōu)勢。

高通技術(shù)公司和Meta致力于驅(qū)動(dòng)創(chuàng)新,打造下一代AI體驗(yàn)。此次合作是雙方持續(xù)合作關(guān)系的重要里程碑,彰顯了雙方以強(qiáng)大AI能力賦能開發(fā)者和用戶的不懈努力。



審核編輯:劉清

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報(bào)投訴
  • 處理器
    +關(guān)注

    關(guān)注

    68

    文章

    19896

    瀏覽量

    235208
  • 高通
    +關(guān)注

    關(guān)注

    78

    文章

    7624

    瀏覽量

    193226
  • GPU芯片
    +關(guān)注

    關(guān)注

    1

    文章

    305

    瀏覽量

    6199
  • 大模型
    +關(guān)注

    關(guān)注

    2

    文章

    3144

    瀏覽量

    4067

原文標(biāo)題:高通支持Meta Llama 3在驍龍終端上運(yùn)行

文章出處:【微信號(hào):Qualcomm_China,微信公眾號(hào):高通中國】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點(diǎn)推薦

    使用 NPU 插件對量化的 Llama 3.1 8b 模型進(jìn)行推理時(shí)出現(xiàn)“從 __Int64 轉(zhuǎn)換為無符號(hào) int 的錯(cuò)誤”,怎么解決?

    安裝了 OpenVINO? GenAI 2024.4。 使用以下命令量化 Llama 3.1 8B 模型: optimum-cli export openvino -m meta-llama
    發(fā)表于 06-25 07:20

    通推出第四代7移動(dòng)平臺(tái)

    Elite Gaming特性盡享緊張刺激的游戲體驗(yàn),第四代7極具吸引力的出色功能讓用戶能夠全身心沉浸所愛。第四代7還帶來了創(chuàng)新的AI功能,
    的頭像 發(fā)表于 05-19 15:02 ?598次閱讀

    8至尊版移動(dòng)平臺(tái)革新終端側(cè)AI影像體驗(yàn)

    自智能手機(jī)時(shí)代以來,人們對于手機(jī)攝影的專業(yè)追求從未停歇。憑借前沿的影像和終端側(cè)AI技術(shù),持續(xù)引領(lǐng)移動(dòng)計(jì)算攝影發(fā)展。最新的
    的頭像 發(fā)表于 03-31 11:09 ?929次閱讀

    無法OVMS上運(yùn)行來自Meta的大型語言模型 (LLM),為什么?

    無法 OVMS 上運(yùn)行來自 Meta 的大型語言模型 (LLM),例如 LLaMa2。 從 OVMS GitHub* 存儲(chǔ)庫運(yùn)行
    發(fā)表于 03-05 08:07

    使用NVIDIA TensorRT提升Llama 3.2性能

    Llama 3.2 模型集擴(kuò)展了 Meta Llama 開源模型集的模型陣容,包含視覺
    的頭像 發(fā)表于 11-20 09:59 ?800次閱讀

    通推出第三代7s移動(dòng)平臺(tái)

    近日,通技術(shù)公司推出第三代7s移動(dòng)平臺(tái),延續(xù)7系的強(qiáng)勁勢頭,為更多用戶帶來更強(qiáng)大的功能
    的頭像 發(fā)表于 11-08 11:13 ?3110次閱讀

    Meta發(fā)布Llama 3.2量化版模型

    近日,Meta開源Llama 3.2的1B與3B模型后,再次為人工智能領(lǐng)域帶來了新進(jìn)展。10月24日,
    的頭像 發(fā)表于 10-29 11:05 ?845次閱讀

    Llama 3 語言模型應(yīng)用

    人工智能領(lǐng)域,語言模型的發(fā)展一直是研究的熱點(diǎn)。隨著技術(shù)的不斷進(jìn)步,我們見證了從簡單的關(guān)鍵詞匹配到復(fù)雜的上下文理解的轉(zhuǎn)變。 一、Llama 3
    的頭像 發(fā)表于 10-27 14:15 ?739次閱讀

    使用OpenVINO 2024.4算力魔方上部署Llama-3.2-1B-Instruct模型

    前面我們分享了《三步完成Llama3算力魔方的本地量化和部署》。2024年9月25日,Meta又發(fā)布了Llama3.2:一個(gè)多語言大型
    的頭像 發(fā)表于 10-12 09:39 ?1451次閱讀
    使用OpenVINO 2024.4<b class='flag-5'>在</b>算力魔方上部署<b class='flag-5'>Llama</b>-3.2-1B-Instruct<b class='flag-5'>模型</b>

    亞馬遜云科技上線Meta Llama 3.2模型

    亞馬遜云科技近日宣布,Meta公司的新一代模型Llama 3.2已在其平臺(tái)上正式上線。該模型包括Meta
    的頭像 發(fā)表于 10-11 18:08 ?747次閱讀

    亞馬遜云科技正式上線Meta Llama 3.2模型

    亞馬遜云科技宣布,Meta的新一代模型Llama 3.2,包括其首款多模態(tài)模型,現(xiàn)已在Amazon Bedrock和Amazon SageMaker中正式可用。
    的頭像 發(fā)表于 10-11 09:20 ?874次閱讀

    AMD發(fā)布首款小語言AI模型Llama-135m

    近日,AMDHuggingface平臺(tái)上正式推出了自家首款“小語言模型”——AMD-Llama-135m。這款
    的頭像 發(fā)表于 09-30 16:38 ?1676次閱讀

    通第三代7s移動(dòng)平臺(tái)發(fā)布,賦能中端智能手機(jī)以卓越AI新體驗(yàn)

    圣迭戈8月20日訊——通公司今日盛大宣布了其第三代7s移動(dòng)平臺(tái)的問世,此舉標(biāo)志著
    的頭像 發(fā)表于 08-21 15:42 ?3114次閱讀

    Meta發(fā)布全新開源大模型Llama 3.1

    科技巨頭Meta近期震撼發(fā)布了其最新的開源人工智能(AI)模型——Llama 3.1,這一舉措標(biāo)志著MetaAI領(lǐng)域的又一重大突破。
    的頭像 發(fā)表于 07-24 18:25 ?1783次閱讀

    Meta即將發(fā)布超強(qiáng)開源AI模型Llama 3-405B

    人工智能領(lǐng)域的激烈競爭中,Meta公司再次擲出重磅炸彈,宣布將于7月23日正式發(fā)布其最新力作——Llama 3-405B,一個(gè)擁有驚人4050億參數(shù)的開源大
    的頭像 發(fā)表于 07-18 09:58 ?1338次閱讀