一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

DeepSeek模型為何掀起如此大的波瀾

IBM中國 ? 來源:IBM中國 ? 2025-02-11 09:13 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

作者:Aili McConnon,IBM

2025年 1月 27 日發(fā)表與 IBM 官網(wǎng) Think 頻道,點擊閱讀英文原文

—— 在 IBM 院士 Kush Varshney 看來,全球 AI 競賽中的地緣政治差異,可能沒有人們想象的那么重要,他說:“一旦模型開源,它源自何處在很多方面就不再重要了?!?/p>

DeepSeek-R1 是中國初創(chuàng)公司 DeepSeek 推出的人工智能模型,不久前,在人工智能開源平臺 Hugging Face 上發(fā)布數(shù)小時,便躍居下載量和活躍度最高模型的榜首;同時因其促使投資者重新考慮英偉達(dá)(NVIDIA)等芯片制造商的估值,以及 AI 巨頭為擴(kuò)大其AI業(yè)務(wù)規(guī)模而進(jìn)行的巨額投資,從而給金融市場也帶來了震蕩。

為何掀起如此大的波瀾?DeepSeek-R1 是一款所謂 “推理模型 ”的數(shù)字助理,在某些數(shù)學(xué)和編碼任務(wù)的人工智能基準(zhǔn)測試中,它的表現(xiàn)與 OpenAI 的 o1 不相上下;而據(jù)該公司稱,訓(xùn)練該系統(tǒng)所使用的芯片數(shù)量卻要少得多,使用成本低約 96%。

IBM AI 硬件部門的一位首席研究科學(xué)家兼經(jīng)理 Kaoutar El Maghraoui 說:“DeepSeek 無疑正在重塑人工智能的格局,它以開源的雄心和最先進(jìn)的創(chuàng)新技術(shù)向巨頭們發(fā)起挑戰(zhàn)?!?/p>

與此同時,TikTok 母公司、中國科技巨頭字節(jié)跳動最近發(fā)布了自己的推理型代理(智能體)UI-TARS,并聲稱該智能體在某些基準(zhǔn)測試中優(yōu)于 OpenAI 的 GPT-4o、Anthropic 的 Claude 和谷歌的 Gemini。字節(jié)跳動的智能體可以讀取圖形界面,進(jìn)行推理,并采取自主和一步接一步的行動。

從初創(chuàng)公司到成熟巨頭,中國的人工智能公司似乎正在縮小與美國競爭對手的差距,這在很大程度上要歸功于它們愿意開源或與其他企業(yè)和軟件開發(fā)商共享底層軟件代碼。IBM 花崗巖(Granite)模型高級技術(shù)產(chǎn)品經(jīng)理 Abraham Daniels說:“DeepSeek 已經(jīng)能夠在整個社區(qū)推廣一些相當(dāng)強(qiáng)大的模型。DeepSeek 真的有可能加速人工智能的民主化。”DeepSeek-R1 在 Hugging Face 上提供,根據(jù) MIT 許可證,允許不受限制地用于商業(yè)用途。

去年夏天,中國公司快手(Kuaishou)發(fā)布了一款視頻生成工具,它與 OpenAI 的索拉(Sora)類似,但公眾可以直接使用。Sora 于去年 2 月亮相,但直到 12 月才正式發(fā)布,即便如此,也只有訂閱了 ChatGPT Pro 的用戶才能使用其全部功能。Hugging Face 上的開發(fā)者還搶購了中國科技巨頭騰訊和阿里巴巴的新開源模式。雖然 Meta 已將其 Llama 模型開源,但 OpenAI 和谷歌在模型開發(fā)方面都主要采用閉源方式。

除了開源帶來的好處外,DeepSeek 工程師在訓(xùn)練系統(tǒng)時使用的英偉達(dá)(NVIDIA)高度專業(yè)化芯片也僅為美國競爭對手的一小部分。例如,DeepSeek 工程師在發(fā)布 DeepSeek-V3 模型時發(fā)表的研究論文稱,他們只需要 2000 個 GPU(圖形處理單元)或芯片就能訓(xùn)練出他們的模型。

推理模型

IBM 院士(IBM Fellow) Kush Varshney說:“真正令人印象深刻的是 DeepSeek 模型的推理能力?!蓖评砟P捅举|(zhì)上是自我驗證或檢查,代表了一種 “元認(rèn)知 ”或 “關(guān)于思考的思考”?!拔覀冋_始將智慧融入到這些模型中,這是巨大的進(jìn)步,”Varshney 說。

去年 9月,當(dāng) OpenAI 預(yù)覽其 o1 推理模型時,推理模型成為熱門話題。與以往只給出答案而不解釋推理過程的人工智能模型不同,它通過將復(fù)雜問題分成幾個步驟來解決。推理模型可能需要多花幾秒或幾分鐘來回答問題,因為它們會一步一步或以 “思維鏈 ”的方式來反思自己的分析。

強(qiáng)化學(xué)習(xí)

DeepSeek-R1 將思維鏈推理與強(qiáng)化學(xué)習(xí)相結(jié)合,在強(qiáng)化學(xué)習(xí)中,自主智能體在沒有人類用戶任何指令的情況下,通過反復(fù)試錯學(xué)會執(zhí)行任務(wù)。強(qiáng)化學(xué)習(xí)有別于更常用的學(xué)習(xí)形式,如監(jiān)督學(xué)習(xí)和無監(jiān)督學(xué)習(xí),前者使用人工標(biāo)注的數(shù)據(jù)進(jìn)行預(yù)測或分類,后者旨在從無標(biāo)注的數(shù)據(jù)中發(fā)現(xiàn)和學(xué)習(xí)隱藏的模式。

DeepSeek-R1 質(zhì)疑了這樣一種假設(shè),即通過對正確或錯誤行為的標(biāo)記示例進(jìn)行訓(xùn)練,或者從隱藏模式中提取信息,模型的推理能力就會得到提高。密歇根州立大學(xué)博士生張逸驊撰寫了數(shù)十篇機(jī)器學(xué)習(xí)方面的論文,他說:“它的核心假設(shè)很簡約,卻不那么簡單:我們能否只通過獎勵信號來教會模型正確回答,從而讓它自己摸索出最優(yōu)的思考方式?”

張逸驊說,對于他和像他一樣習(xí)慣了傳統(tǒng)監(jiān)督微調(diào)的專家而言,“眼見 DeepSeek 這樣的大型語言模型僅靠強(qiáng)化學(xué)習(xí)獎勵就能學(xué)會‘更好地思考’,著實令人驚艷”,尤其是看到“模型出現(xiàn)真正的‘a(chǎn)ha (頓悟)時刻’,它能后退一步,發(fā)現(xiàn)錯誤并自我糾正”。

成本計算

DeepSeek 引發(fā)的熱議部分源于其低廉的價格。根據(jù)該公司發(fā)布的技術(shù)報告,在圣誕節(jié)當(dāng)天發(fā)布的 DeepSeek-V3 的訓(xùn)練成本為 550萬美元,而對于希望試用它的開發(fā)人員來說,價格要便宜得多。IBM 杰出工程師 Chris Hay說:“他們在模型成本方面所做的工作,以及他們訓(xùn)練模型所花費的時間,確實令人印象深刻?!?/p>

然而,IBM 研究院 Granite 技術(shù)產(chǎn)品管理總監(jiān) Kate Soule表示,低廉的價格標(biāo)簽可能并不是故事的全部。她說,550萬美元的成本 “只代表了所需計算量的一小部分”。她說,這還不包括公司即使采用開源模型也要保持專有的成本細(xì)節(jié),比如 “強(qiáng)化學(xué)習(xí)、數(shù)據(jù)消減和超參數(shù)搜索的計算成本”。

無可置疑的是,DeepSeek 通過使用專家混合(MoE)架構(gòu)實現(xiàn)了更高的成本效益,而這種架構(gòu)大大降低了訓(xùn)練所需的資源。MoE 架構(gòu)將人工智能模型劃分為不同的子網(wǎng)絡(luò)(或 “專家”),每個子網(wǎng)絡(luò)專門處理輸入數(shù)據(jù)的一個子集。模型只激活特定任務(wù)所需的特定專家,而不是激活整個神經(jīng)網(wǎng)絡(luò)。因此,MoE 架構(gòu)大大降低了預(yù)訓(xùn)練期間的計算成本,并在推理期間實現(xiàn)了更快的性能。在過去一年中,包括法國領(lǐng)先的人工智能公司 Mistral 和 IBM 在內(nèi)的全球多家公司著力推廣了 MoE 架構(gòu),并通過將 MoE 與開源相結(jié)合實現(xiàn)了更高的效率。(例如,IBM 在 2024年 Think 大會宣布與紅帽一起推出 InstructLab,一個推動大模型開源創(chuàng)新的革命性大模型對齊方法。)

就 IBM 的一系列開源 Granite 模型(采用 MoE 架構(gòu)開發(fā))而言,企業(yè)能夠以極低的成本實現(xiàn)前沿模型的性能,因為他們可以針對特定應(yīng)用或用例調(diào)整大型預(yù)訓(xùn)練模型,從而有效創(chuàng)建更小的適用模型。將強(qiáng)大的功能集成到更小的稠密模型上,意味著這些模型可用于智能手機(jī)和其他在邊緣運行的移動設(shè)備,如汽車計算機(jī)或工廠車間的智能傳感器。

這種采用較大模型并將其蒸餾成資源密集度較低的較小模型的過程也為 DeepSeek 的成功做出了貢獻(xiàn)。在發(fā)布其標(biāo)志性的 R1 模型的同時,這家中國初創(chuàng)公司還發(fā)布了一系列更小的適合不同用途的模型。有趣的是,他們用實踐證明,與一開始就對小型模型進(jìn)行強(qiáng)化學(xué)習(xí)相比,將大型模型蒸餾成小型模型的推理效果更好。

全球性的人工智能洗牌?

隨著這些新模型在某些基準(zhǔn)測試中與老一代競爭對手相抗衡或超越它們時,它們將如何影響全球人工智能格局?El Maghraoui說:“全球人工智能格局不只關(guān)乎基準(zhǔn)測試的原始性能,更關(guān)系到是否能以安全和道德的方式對這些模型進(jìn)行端到端的整合?!?因此,El Maghraoui 表示,現(xiàn)在判斷 DeepSeek-R1 及其他產(chǎn)品是否會 “改變?nèi)祟惢?、技術(shù)和企業(yè)應(yīng)用 ”,還為時尚早。

最終,“開發(fā)人員的采用率將決定 DeepSeek 模型的受歡迎程度,”Daniels說。他表示期待“看到他們?yōu)槟P桶l(fā)掘出的各種用例”。

在 IBM 院士 Kush Varshney看來,全球AI競賽中的地緣政治差異,可能沒有人們想象的那么重要,他說:“一旦模型開源,它源自何處在很多方面就不再重要了?!?/p>

開始在 IBM watsonx.ai 上使用 DeepSeek:即刻訪問 https://ibm.biz/BdGera,了解如何使用 watsonx.ai 以安全的方式部署 DeepSeek-R1 的精餾變體進(jìn)行推理。

關(guān)于 IBM

IBM 是全球領(lǐng)先的混合云、人工智能及企業(yè)服務(wù)提供商,幫助超過 175個國家和地區(qū)的客戶,從其擁有的數(shù)據(jù)中獲取商業(yè)洞察,簡化業(yè)務(wù)流程,降低成本,并獲得行業(yè)競爭優(yōu)勢。金融服務(wù)、電信和醫(yī)療健康等關(guān)鍵基礎(chǔ)設(shè)施領(lǐng)域的超過 4000家政府和企業(yè)實體依靠 IBM 混合云平臺和紅帽 OpenShift 快速、高效、安全地實現(xiàn)數(shù)字化轉(zhuǎn)型。IBM 在人工智能、量子計算、行業(yè)云解決方案和企業(yè)服務(wù)方面的突破性創(chuàng)新為我們的客戶提供了開放和靈活的選擇。對企業(yè)誠信、透明治理、社會責(zé)任、包容文化和服務(wù)精神的長期承諾是 IBM 業(yè)務(wù)發(fā)展的基石。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • IBM
    IBM
    +關(guān)注

    關(guān)注

    3

    文章

    1823

    瀏覽量

    75853
  • AI
    AI
    +關(guān)注

    關(guān)注

    88

    文章

    35194

    瀏覽量

    280305
  • DeepSeek
    +關(guān)注

    關(guān)注

    2

    文章

    798

    瀏覽量

    1774

原文標(biāo)題:DeepSeek 推理型 AI 盡顯高效訓(xùn)練的小模型之威

文章出處:【微信號:IBMGCG,微信公眾號:IBM中國】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點推薦

    【「DeepSeek 核心技術(shù)揭秘」閱讀體驗】--全書概覽

    講解Deepseek的使用方法 第三章 深入剖析Deepseek-V3的模型架構(gòu)、訓(xùn)練框架、推理階段優(yōu)化、后訓(xùn)練優(yōu)化等關(guān)鍵技術(shù) 第四章關(guān)于DeepSeek-R1的技術(shù)剖析 第五章 從
    發(fā)表于 07-21 00:04

    【書籍評測活動NO.62】一本書讀懂 DeepSeek 全家桶核心技術(shù):DeepSeek 核心技術(shù)揭秘

    。DeepSeek-V3 的發(fā)布幾乎沒有預(yù)熱和炒作,僅憑借其出色的效果和超低的成本迅速走紅。 DeepSeek-R1 則是在 DeepSeek-V3 的基礎(chǔ)上構(gòu)建的推理模型,它在后訓(xùn)練
    發(fā)表于 06-09 14:38

    HarmonyOS NEXT開發(fā)實戰(zhàn):DevEco Studio中DeepSeek的使用

    隨著HarmonyOS Next的持續(xù)發(fā)布,鴻蒙系統(tǒng)對AI能力的支持顯著增強(qiáng)。本文將深入探討如何在鴻蒙應(yīng)用中集成AI模型,結(jié)合接入DeepSeek,一起來探索開發(fā)鴻蒙原生應(yīng)用的更多可能吧! 第一步
    發(fā)表于 03-07 14:56

    聆思CSK6大模型語音開發(fā)板接入DeepSeek資料匯總(包含深度求索/火山引擎/硅基流動華為昇騰滿血版)

    本帖最后由 jf_40317719 于 2025-3-6 21:20 編輯 近期也有不少開發(fā)者想把自己的智能硬件接入DeepSeek模型,本篇就以聆思CSK6大模型開發(fā)板接入DeepS
    發(fā)表于 03-06 17:02

    RK3588開發(fā)板上部署DeepSeek-R1大模型的完整指南

    DeepSeek作為國產(chǎn)AI大數(shù)據(jù)模型的代表,憑借其卓越的推理能力和高效的文本生成技術(shù),在全球人工智能領(lǐng)域引發(fā)廣泛關(guān)注。DeepSeek-R1作為該系列最新迭代版本,實現(xiàn)了長文本處理效能躍遷、多模態(tài)
    發(fā)表于 02-27 16:45

    鴻蒙原生應(yīng)用開發(fā)也可以使用DeepSeek

    DeepSeek-R1),點擊Apply 具體DeepSeek API參考,以及請求體詳情信息可見:DeepSeek API文檔 體驗DeepSeek輔助編程 選擇
    發(fā)表于 02-20 18:06

    開源大模型DeepSeek的開放內(nèi)容詳析

    當(dāng)大家討論為什么 DeepSeek 能夠形成全球刷屏之勢,讓所有廠商、平臺都集成之時,「開源」成為了最大的關(guān)鍵詞之一,圖靈獎得主 Yann LeCun 稱其是「開源的勝利」。模型開源一直備受關(guān)注,從
    的頭像 發(fā)表于 02-19 09:48 ?1479次閱讀
    開源大<b class='flag-5'>模型</b><b class='flag-5'>DeepSeek</b>的開放內(nèi)容詳析

    DeepSeek模型引領(lǐng)AI變革,廣電運通率先集成應(yīng)用

    近日,DeepSeek系列模型因其卓越的推理能力,在大模型領(lǐng)域掀起熱議,成為新的焦點。面對AI技術(shù)的新一輪變革,廣電運通迅速響應(yīng),依托自研的悟道知識中臺,成功集成了
    的頭像 發(fā)表于 02-18 14:28 ?832次閱讀

    添越智創(chuàng)基于 RK3588 開發(fā)板部署測試 DeepSeek 模型全攻略

    在 AI 技術(shù)日新月異的當(dāng)下,新的模型與突破不斷涌現(xiàn)。近期,DeepSeek(深度求索)模型以其卓越性能和親民成本,迅速在全球開發(fā)者圈子里引發(fā)熱議。作為一款強(qiáng)大的語言模型,
    發(fā)表于 02-14 17:42

    DeepSeek模型受行業(yè)熱捧,加速AI應(yīng)用迭代

    DeepSeek模型的誕生在行業(yè)內(nèi)掀起了巨大波瀾,吸引了眾多券商及上市公司的關(guān)注。近期,多家機(jī)構(gòu)紛紛宣布,無論是硬件還是軟件方面,都將接入Deep
    的頭像 發(fā)表于 02-14 14:14 ?619次閱讀

    了解DeepSeek-V3 和 DeepSeek-R1兩個大模型的不同定位和應(yīng)用選擇

    DeepSeek-V3 和 DeepSeek-R1 是深度求索公司(DeepSeek)推出的兩個不同定位的大模型,其核心差異主要體現(xiàn)在目標(biāo)場景、能力側(cè)重和技術(shù)優(yōu)化方向上。以下是二者的實
    發(fā)表于 02-14 02:08

    如何在MATLAB中使用DeepSeek模型

    DeepSeek-R1(https://github.com/deepseek-ai/DeepSeek-R1) AI 模型橫空出世后,人們幾乎就立馬開始詢問如何在 MATLAB 中
    的頭像 發(fā)表于 02-13 09:20 ?3404次閱讀
    如何在MATLAB中使用<b class='flag-5'>DeepSeek</b><b class='flag-5'>模型</b>

    中軟國際科創(chuàng)中心上線DeepSeek模型

    近日,中軟國際科創(chuàng)中心以“DeepSeek+昇騰”為引擎,緊跟行業(yè)趨勢,將DeepSeek全參模型滿血版部署在全國產(chǎn)化智算環(huán)境中,實現(xiàn)671B參數(shù)的DeepSeek
    的頭像 發(fā)表于 02-08 18:02 ?1366次閱讀

    在龍芯3a6000上部署DeepSeek 和 Gemma2大模型

    serve 2.運行deepseek-r1大模型 到以下網(wǎng)站選擇不同參數(shù)的大模型 https://ollama.com/library/deepseek-r1 新開一個終端執(zhí)行如下
    發(fā)表于 02-07 19:35

    云天勵飛上線DeepSeek R1系列模型

    -R1-Distill-Qwen-7B、DeepSeek-R1-Distill-Llama-8B大模型的適配,可以交付客戶使用。DeepSeek-R1-Distill-Qwen-32B、Dee
    的頭像 發(fā)表于 02-06 10:39 ?687次閱讀
    云天勵飛上線<b class='flag-5'>DeepSeek</b> R1系列<b class='flag-5'>模型</b>