一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

李開復(fù):中國擅長打造經(jīng)濟(jì)實惠的AI推理引擎

要長高 ? 2024-10-22 16:54 ? 次閱讀

10月22日上午,零一萬物公司的創(chuàng)始人兼首席執(zhí)行官李開復(fù)在與外媒的交流中透露,其公司旗下的Yi-Lightning(閃電模型)在推理成本上已實現(xiàn)了顯著優(yōu)勢,比OpenAI的GPT-4o模型低了31倍。他強(qiáng)調(diào),中國擅長打造經(jīng)濟(jì)實惠的AI推理引擎,這是推動AI應(yīng)用快速發(fā)展的關(guān)鍵因素。

根據(jù)加州大學(xué)伯克利分校SkyLab和LMSYS研究人員最新發(fā)布的大模型排名,零一萬物與Grok-2和馬斯克創(chuàng)立的xAI一同位列全球第三,僅次于OpenAI和谷歌的最新模型。李開復(fù)透露,Yi-Lightning的推理成本僅為每百萬token 0.99元人民幣(14美分),而OpenAI的較小模型o1-mini則需26美分每百萬token,其更大的GPT-4o模型更是高達(dá)4.40美元每百萬token。

此外,李開復(fù)還提到,Yi-Lightning的“預(yù)訓(xùn)練”成本為300萬美元,僅為OpenAI訓(xùn)練GPT-4成本的3%,但性能卻超越了后者。

面對尖端AI芯片供應(yīng)緊張的現(xiàn)狀,國內(nèi)AI企業(yè)過去一年紛紛致力于開發(fā)高質(zhì)量數(shù)據(jù)集,以訓(xùn)練出具有特色的“混合專家”模型。李開復(fù)指出,零一萬物采用了優(yōu)于傳統(tǒng)網(wǎng)絡(luò)抓取的數(shù)據(jù)收集方法,如掃描書籍、爬取深網(wǎng)數(shù)據(jù)以及使用創(chuàng)新的合成數(shù)據(jù)技術(shù)等。

他進(jìn)一步強(qiáng)調(diào),中國在數(shù)據(jù)標(biāo)注和排序方面擁有大量技術(shù)精湛且勤奮的工程師,這使得中國在AI應(yīng)用落地方面更具優(yōu)勢?!爸袊膬?yōu)勢不在于無預(yù)算限制的突破性研究,而在于能夠以更好、更快、更可靠和更低成本的方式實現(xiàn)AI技術(shù)的實際應(yīng)用。”李開復(fù)表示。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    33554

    瀏覽量

    274195
  • OpenAI
    +關(guān)注

    關(guān)注

    9

    文章

    1196

    瀏覽量

    8294
收藏 人收藏

    評論

    相關(guān)推薦

    AI推理的存儲,看好SRAM?

    電子發(fā)燒友網(wǎng)報道(文/黃晶晶)近幾年,生成式AI引領(lǐng)行業(yè)變革,AI訓(xùn)練率先崛起,帶動高帶寬內(nèi)存HBM一飛沖天。但我們知道AI推理的廣泛應(yīng)用才能推動A
    的頭像 發(fā)表于 03-03 08:51 ?1400次閱讀
    <b class='flag-5'>AI</b><b class='flag-5'>推理</b>的存儲,看好SRAM?

    谷歌新一代 TPU 芯片 Ironwood:助力大規(guī)模思考與推理AI 模型新引擎?

    Cloud 客戶開放,將提供 256 芯片集群以及 9,216 芯片集群兩種配置選項。 ? 在核心亮點(diǎn)層面,Ironwood 堪稱谷歌首款專門為 AI 推理精心設(shè)計的 TPU 芯片,能夠有力支持大規(guī)模思考
    的頭像 發(fā)表于 04-12 00:57 ?1692次閱讀

    AI大模型在汽車應(yīng)用中的推理、降本與可解釋性研究

    佐思汽研發(fā)布《2024-2025年AI大模型及其在汽車領(lǐng)域的應(yīng)用研究報告》。 推理能力成為大模型性能提升的驅(qū)動引擎 2024下半年以來,國內(nèi)外大模型公司紛紛推出推理模型,通過以CoT為
    的頭像 發(fā)表于 02-18 15:02 ?957次閱讀
    <b class='flag-5'>AI</b>大模型在汽車應(yīng)用中的<b class='flag-5'>推理</b>、降本與可解釋性研究

    使用NVIDIA推理平臺提高AI推理性能

    NVIDIA推理平臺提高了 AI 推理性能,為零售、電信等行業(yè)節(jié)省了數(shù)百萬美元。
    的頭像 發(fā)表于 02-08 09:59 ?525次閱讀
    使用NVIDIA<b class='flag-5'>推理</b>平臺提高<b class='flag-5'>AI</b><b class='flag-5'>推理</b>性能

    生成式AI推理技術(shù)、市場與未來

    OpenAI o1、QwQ-32B-Preview、DeepSeek R1-Lite-Preview的相繼發(fā)布,預(yù)示著生成式AI研究正從預(yù)訓(xùn)練轉(zhuǎn)向推理(Inference),以提升AI邏輯推理
    的頭像 發(fā)表于 01-20 11:16 ?694次閱讀
    生成式<b class='flag-5'>AI</b><b class='flag-5'>推理</b>技術(shù)、市場與未來

    什么是AI查詢引擎

    AI 查詢引擎可高效處理、存儲和檢索大量數(shù)據(jù),以增強(qiáng)生成式 AI 模型的輸入。
    的頭像 發(fā)表于 01-10 10:00 ?874次閱讀

    AI推理CPU當(dāng)?shù)?,Arm驅(qū)動高效引擎

    本應(yīng)發(fā)揮關(guān)鍵作用,但其重要性卻常常被忽視。 ? “對于那些希望將大語言模型(LLM)集成到產(chǎn)品和服務(wù)中的企業(yè)和開發(fā)者來說,CPU 通常是首選”。Arm 中國區(qū)業(yè)務(wù)全球副總裁鄒挺在接受采訪時表示。為了適應(yīng)AI推理的應(yīng)用落地,CPU
    的頭像 發(fā)表于 11-13 14:34 ?3065次閱讀
    <b class='flag-5'>AI</b><b class='flag-5'>推理</b>CPU當(dāng)?shù)?,Arm驅(qū)動高效<b class='flag-5'>引擎</b>

    城西科創(chuàng)大走廊打造中國AI+”產(chǎn)業(yè)地標(biāo) “中國云谷”正式啟動建設(shè)

    全力打造中國AI+”產(chǎn)業(yè)地標(biāo),10月30日,“中國云谷”建設(shè)發(fā)展大會在杭州城西科創(chuàng)大走廊紫金港科技城召開,“中國云谷”正式啟動建設(shè),著力
    的頭像 發(fā)表于 10-31 12:29 ?441次閱讀
    城西科創(chuàng)大走廊<b class='flag-5'>打造</b>“<b class='flag-5'>中國</b><b class='flag-5'>AI</b>+”產(chǎn)業(yè)地標(biāo) “<b class='flag-5'>中國</b>云谷”正式啟動建設(shè)

    NVIDIA助力麗蟾科技打造AI訓(xùn)練與推理加速解決方案

    麗蟾科技通過 Leaper 資源管理平臺集成 NVIDIA AI Enterprise,為企業(yè)和科研機(jī)構(gòu)提供了一套高效、靈活的 AI 訓(xùn)練與推理加速解決方案。無論是在復(fù)雜的 AI 開發(fā)
    的頭像 發(fā)表于 10-27 10:03 ?579次閱讀
    NVIDIA助力麗蟾科技<b class='flag-5'>打造</b><b class='flag-5'>AI</b>訓(xùn)練與<b class='flag-5'>推理</b>加速解決方案

    澎峰科技高性能大模型推理引擎PerfXLM解析

    模型的高性能推理框架,并受到廣泛關(guān)注。在歷經(jīng)數(shù)月的迭代開發(fā)后,澎峰科技重磅發(fā)布升級版本,推出全新的高性能大模型推理引擎:PerfXLM。
    的頭像 發(fā)表于 09-29 10:14 ?1054次閱讀
    澎峰科技高性能大模型<b class='flag-5'>推理</b><b class='flag-5'>引擎</b>PerfXLM解析

    AMD助力HyperAccel開發(fā)全新AI推理服務(wù)器

    提高成本效率。HyperAccel 針對新興的生成式 AI 應(yīng)用提供超級加速的芯片 IP/解決方案。HyperAccel 已經(jīng)打造出一個快速、高效且低成本的推理系統(tǒng),加速了基于轉(zhuǎn)換器的大型語言模型
    的頭像 發(fā)表于 09-18 09:37 ?669次閱讀
    AMD助力HyperAccel開發(fā)全新<b class='flag-5'>AI</b><b class='flag-5'>推理</b>服務(wù)器

    摩爾線程攜手東華軟件完成AI大模型推理測試與適配

    近日,摩爾線程與東華軟件云筑AI創(chuàng)新中心宣布,雙方已完成大模型推理測試與適配。依托摩爾線程的全功能GPU國產(chǎn)算力,東華軟件打造安全可信的基于私有化大模型的“智多型(A.I.Cogniflex)”
    的頭像 發(fā)表于 07-31 10:51 ?1157次閱讀

    深度學(xué)習(xí)編譯器和推理引擎的區(qū)別

    深度學(xué)習(xí)編譯器和推理引擎在人工智能領(lǐng)域中都扮演著至關(guān)重要的角色,但它們各自的功能、應(yīng)用場景以及優(yōu)化目標(biāo)等方面存在顯著的差異。以下是對兩者區(qū)別的詳細(xì)探討。
    的頭像 發(fā)表于 07-17 18:12 ?1592次閱讀

    李開復(fù)展望AI未來:2025年AI或超博士水平

    在6月29日舉辦的知乎第十屆鹽Club新知青年大會上,科技巨頭李開復(fù),身兼零一萬物CEO和創(chuàng)新工場董事長雙重身份,發(fā)表了對人工智能(AI)未來的深度見解。他回顧了自己與AI相伴的40年歷程,并大膽預(yù)測,大模型技術(shù)的飛速進(jìn)步將使
    的頭像 發(fā)表于 06-29 15:56 ?1214次閱讀

    李開復(fù)中國須獨(dú)立研發(fā)ChatGPT?

    李開復(fù)援引“ChatGPT 時刻”概念,指出美國在約 17 個月前就已體驗到這一波熱潮(注:ChatGPT 最早于 2022 年 12 月走紅)。然而,他認(rèn)為中國尚未達(dá)到這一階段,目前國內(nèi)的聊天機(jī)器人或工具仍有待改進(jìn)。
    的頭像 發(fā)表于 05-13 16:05 ?666次閱讀