一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

李開復(fù):中國擅長打造經(jīng)濟(jì)實(shí)惠的AI推理引擎

要長高 ? 2024-10-22 16:54 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

10月22日上午,零一萬物公司的創(chuàng)始人兼首席執(zhí)行官李開復(fù)在與外媒的交流中透露,其公司旗下的Yi-Lightning(閃電模型)在推理成本上已實(shí)現(xiàn)了顯著優(yōu)勢,比OpenAI的GPT-4o模型低了31倍。他強(qiáng)調(diào),中國擅長打造經(jīng)濟(jì)實(shí)惠的AI推理引擎,這是推動AI應(yīng)用快速發(fā)展的關(guān)鍵因素。

根據(jù)加州大學(xué)伯克利分校SkyLab和LMSYS研究人員最新發(fā)布的大模型排名,零一萬物與Grok-2和馬斯克創(chuàng)立的xAI一同位列全球第三,僅次于OpenAI和谷歌的最新模型。李開復(fù)透露,Yi-Lightning的推理成本僅為每百萬token 0.99元人民幣(14美分),而OpenAI的較小模型o1-mini則需26美分每百萬token,其更大的GPT-4o模型更是高達(dá)4.40美元每百萬token。

此外,李開復(fù)還提到,Yi-Lightning的“預(yù)訓(xùn)練”成本為300萬美元,僅為OpenAI訓(xùn)練GPT-4成本的3%,但性能卻超越了后者。

面對尖端AI芯片供應(yīng)緊張的現(xiàn)狀,國內(nèi)AI企業(yè)過去一年紛紛致力于開發(fā)高質(zhì)量數(shù)據(jù)集,以訓(xùn)練出具有特色的“混合專家”模型。李開復(fù)指出,零一萬物采用了優(yōu)于傳統(tǒng)網(wǎng)絡(luò)抓取的數(shù)據(jù)收集方法,如掃描書籍、爬取深網(wǎng)數(shù)據(jù)以及使用創(chuàng)新的合成數(shù)據(jù)技術(shù)等。

他進(jìn)一步強(qiáng)調(diào),中國在數(shù)據(jù)標(biāo)注和排序方面擁有大量技術(shù)精湛且勤奮的工程師,這使得中國在AI應(yīng)用落地方面更具優(yōu)勢。“中國的優(yōu)勢不在于無預(yù)算限制的突破性研究,而在于能夠以更好、更快、更可靠和更低成本的方式實(shí)現(xiàn)AI技術(shù)的實(shí)際應(yīng)用?!崩铋_復(fù)表示。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報(bào)投訴
  • AI
    AI
    +關(guān)注

    關(guān)注

    88

    文章

    35109

    瀏覽量

    279604
  • OpenAI
    +關(guān)注

    關(guān)注

    9

    文章

    1207

    瀏覽量

    8908
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點(diǎn)推薦

    AI推理的存儲,看好SRAM?

    電子發(fā)燒友網(wǎng)報(bào)道(文/黃晶晶)近幾年,生成式AI引領(lǐng)行業(yè)變革,AI訓(xùn)練率先崛起,帶動高帶寬內(nèi)存HBM一飛沖天。但我們知道AI推理的廣泛應(yīng)用才能推動A
    的頭像 發(fā)表于 03-03 08:51 ?1677次閱讀
    <b class='flag-5'>AI</b><b class='flag-5'>推理</b>的存儲,看好SRAM?

    信而泰×DeepSeek:AI推理引擎驅(qū)動網(wǎng)絡(luò)智能診斷邁向 “自愈”時(shí)代

    DeepSeek-R1:強(qiáng)大的AI推理引擎底座DeepSeek是由杭州深度求索人工智能基礎(chǔ)技術(shù)研究有限公司開發(fā)的新一代AI大模型。其核心優(yōu)勢在于強(qiáng)大的
    發(fā)表于 07-16 15:29

    聯(lián)想攜手火山引擎中國消費(fèi)者和企業(yè)打造安全可信的AI新未來

    近日,2025火山引擎FORCE春季原動力大會在京舉辦。聯(lián)想集團(tuán)執(zhí)行副總裁兼中國區(qū)總裁劉軍通過視頻發(fā)表演講,首度透露與火山引擎聯(lián)合打造的聯(lián)想“可信混合計(jì)算方案”。他表示,該方案使得天禧
    的頭像 發(fā)表于 06-14 09:49 ?603次閱讀

    谷歌新一代 TPU 芯片 Ironwood:助力大規(guī)模思考與推理AI 模型新引擎?

    Cloud 客戶開放,將提供 256 芯片集群以及 9,216 芯片集群兩種配置選項(xiàng)。 ? 在核心亮點(diǎn)層面,Ironwood 堪稱谷歌首款專門為 AI 推理精心設(shè)計(jì)的 TPU 芯片,能夠有力支持大規(guī)模思考
    的頭像 發(fā)表于 04-12 00:57 ?2417次閱讀

    AI大模型在汽車應(yīng)用中的推理、降本與可解釋性研究

    佐思汽研發(fā)布《2024-2025年AI大模型及其在汽車領(lǐng)域的應(yīng)用研究報(bào)告》。 推理能力成為大模型性能提升的驅(qū)動引擎 2024下半年以來,國內(nèi)外大模型公司紛紛推出推理模型,通過以CoT為
    的頭像 發(fā)表于 02-18 15:02 ?1232次閱讀
    <b class='flag-5'>AI</b>大模型在汽車應(yīng)用中的<b class='flag-5'>推理</b>、降本與可解釋性研究

    使用NVIDIA推理平臺提高AI推理性能

    NVIDIA推理平臺提高了 AI 推理性能,為零售、電信等行業(yè)節(jié)省了數(shù)百萬美元。
    的頭像 發(fā)表于 02-08 09:59 ?713次閱讀
    使用NVIDIA<b class='flag-5'>推理</b>平臺提高<b class='flag-5'>AI</b><b class='flag-5'>推理</b>性能

    生成式AI推理技術(shù)、市場與未來

    OpenAI o1、QwQ-32B-Preview、DeepSeek R1-Lite-Preview的相繼發(fā)布,預(yù)示著生成式AI研究正從預(yù)訓(xùn)練轉(zhuǎn)向推理(Inference),以提升AI邏輯推理
    的頭像 發(fā)表于 01-20 11:16 ?833次閱讀
    生成式<b class='flag-5'>AI</b><b class='flag-5'>推理</b>技術(shù)、市場與未來

    什么是AI查詢引擎

    AI 查詢引擎可高效處理、存儲和檢索大量數(shù)據(jù),以增強(qiáng)生成式 AI 模型的輸入。
    的頭像 發(fā)表于 01-10 10:00 ?1454次閱讀

    智譜GLM-Zero深度推理模型預(yù)覽版正式上線

    。 GLM-Zero-Preview專注于提升AI推理能力,擅長處理數(shù)理邏輯、代碼以及需要深度推理的復(fù)雜問題。據(jù)官方介紹,與同基座模型相比,GLM-Zero-Preview在不顯著降
    的頭像 發(fā)表于 01-02 10:55 ?520次閱讀

    AI推理CPU當(dāng)?shù)?,Arm驅(qū)動高效引擎

    本應(yīng)發(fā)揮關(guān)鍵作用,但其重要性卻常常被忽視。 ? “對于那些希望將大語言模型(LLM)集成到產(chǎn)品和服務(wù)中的企業(yè)和開發(fā)者來說,CPU 通常是首選”。Arm 中國區(qū)業(yè)務(wù)全球副總裁鄒挺在接受采訪時(shí)表示。為了適應(yīng)AI推理的應(yīng)用落地,CPU
    的頭像 發(fā)表于 11-13 14:34 ?3385次閱讀
    <b class='flag-5'>AI</b><b class='flag-5'>推理</b>CPU當(dāng)?shù)?,Arm驅(qū)動高效<b class='flag-5'>引擎</b>

    城西科創(chuàng)大走廊打造中國AI+”產(chǎn)業(yè)地標(biāo) “中國云谷”正式啟動建設(shè)

    全力打造中國AI+”產(chǎn)業(yè)地標(biāo),10月30日,“中國云谷”建設(shè)發(fā)展大會在杭州城西科創(chuàng)大走廊紫金港科技城召開,“中國云谷”正式啟動建設(shè),著力
    的頭像 發(fā)表于 10-31 12:29 ?530次閱讀
    城西科創(chuàng)大走廊<b class='flag-5'>打造</b>“<b class='flag-5'>中國</b><b class='flag-5'>AI</b>+”產(chǎn)業(yè)地標(biāo) “<b class='flag-5'>中國</b>云谷”正式啟動建設(shè)

    NVIDIA助力麗蟾科技打造AI訓(xùn)練與推理加速解決方案

    麗蟾科技通過 Leaper 資源管理平臺集成 NVIDIA AI Enterprise,為企業(yè)和科研機(jī)構(gòu)提供了一套高效、靈活的 AI 訓(xùn)練與推理加速解決方案。無論是在復(fù)雜的 AI 開發(fā)
    的頭像 發(fā)表于 10-27 10:03 ?817次閱讀
    NVIDIA助力麗蟾科技<b class='flag-5'>打造</b><b class='flag-5'>AI</b>訓(xùn)練與<b class='flag-5'>推理</b>加速解決方案

    澎峰科技高性能大模型推理引擎PerfXLM解析

    模型的高性能推理框架,并受到廣泛關(guān)注。在歷經(jīng)數(shù)月的迭代開發(fā)后,澎峰科技重磅發(fā)布升級版本,推出全新的高性能大模型推理引擎:PerfXLM。
    的頭像 發(fā)表于 09-29 10:14 ?1469次閱讀
    澎峰科技高性能大模型<b class='flag-5'>推理</b><b class='flag-5'>引擎</b>PerfXLM解析

    AMD助力HyperAccel開發(fā)全新AI推理服務(wù)器

    提高成本效率。HyperAccel 針對新興的生成式 AI 應(yīng)用提供超級加速的芯片 IP/解決方案。HyperAccel 已經(jīng)打造出一個(gè)快速、高效且低成本的推理系統(tǒng),加速了基于轉(zhuǎn)換器的大型語言模型
    的頭像 發(fā)表于 09-18 09:37 ?876次閱讀
    AMD助力HyperAccel開發(fā)全新<b class='flag-5'>AI</b><b class='flag-5'>推理</b>服務(wù)器

    摩爾線程攜手東華軟件完成AI大模型推理測試與適配

    近日,摩爾線程與東華軟件云筑AI創(chuàng)新中心宣布,雙方已完成大模型推理測試與適配。依托摩爾線程的全功能GPU國產(chǎn)算力,東華軟件打造安全可信的基于私有化大模型的“智多型(A.I.Cogniflex)”
    的頭像 發(fā)表于 07-31 10:51 ?1952次閱讀