2025年年初，DeepSeek成為全球人工智能（AI）領(lǐng)域的焦點(diǎn)，其DeepSeek-V3和DeepSeek-R1版本在行業(yè)內(nèi)引發(fā)了結(jié)構(gòu)性震動。

DeepSeek-V3是一個擁有6710億個參數(shù)的混合專家模型（MoE），每個token（模型處理文本的基本單位）激活370億個參數(shù)。該模型在14.8萬億個高質(zhì)量token上進(jìn)行預(yù)訓(xùn)練，采用MLA和MoE架構(gòu)。DeepSeek-V3的發(fā)布幾乎沒有預(yù)熱和炒作，僅憑借其出色的效果和超低的成本迅速走紅。

DeepSeek-R1則是在DeepSeek-V3的基礎(chǔ)上構(gòu)建的推理模型，它在后訓(xùn)練階段大規(guī)模使用強(qiáng)化學(xué)習(xí)技術(shù)，僅憑極少標(biāo)注數(shù)據(jù)便大幅提升了模型的推理能力。在數(shù)學(xué)、代碼、自然語言推理等任務(wù)上，DeepSeek-R1的效果已可比肩OpenAI-o1正式版。

DeepSeek-R1 在基準(zhǔn)測試中的表現(xiàn)

DeepSeek-V3技術(shù)突破

DeepSeek-V3的模型架構(gòu)整體上基于Transformer的MoE架構(gòu)，并在細(xì)節(jié)實(shí)現(xiàn)上做了大量的創(chuàng)新和優(yōu)化，如大量小專家模型、多頭潛在注意力、無輔助損失的負(fù)載平衡、多token預(yù)測技術(shù)（MTP）等，大幅提升了模型的性能。

在模型訓(xùn)練方面，DeepSeek依托自研的輕量級分布式訓(xùn)練框架HAI-LLM，通過算法、框架和硬件的緊密配合，突破了跨節(jié)點(diǎn)MoE訓(xùn)練中的通信瓶頸，實(shí)現(xiàn)了高效穩(wěn)定的訓(xùn)練。DeepSeek-V3 是業(yè)界率先使用FP8進(jìn)行混合精度訓(xùn)練的開源模型。

在推理部署方面，DeepSeek-V3采用預(yù)填充（Prefilling）和解碼（Decoding）分離的策略，以及冗余專家策略，在提高推理速度的同時確保了系統(tǒng)的穩(wěn)定性和可靠性。

DeepSeek 架構(gòu)圖

DeepSeek-R1技術(shù)突破
01.純強(qiáng)化學(xué)習(xí)訓(xùn)練

DeepSeek-R1-Zero的核心創(chuàng)新之一是采用純強(qiáng)化學(xué)習(xí)（Reinforcement Learning，RL）進(jìn)行訓(xùn)練。這一方法顛覆了傳統(tǒng)的依賴有監(jiān)督微調(diào)（Supervised Fine-Tuning，SFT）和人類反饋強(qiáng)化學(xué)習(xí)（Reinforcement Learning from Human Feedback，RLHF）的訓(xùn)練模式，首次驗(yàn)證了無須任何SFT數(shù)據(jù)，僅通過強(qiáng)化學(xué)習(xí)即可實(shí)現(xiàn)推理能力的自主進(jìn)化。

02.GRPO 算法GRPO算法是DeepSeek-R1-Zero使用的另一個重要的創(chuàng)新算法。與傳統(tǒng)的強(qiáng)化學(xué)習(xí)算法（如PPO、DPO）不同，GRPO算法通過組內(nèi)獎勵對比直接優(yōu)化策略網(wǎng)絡(luò)。具體而言，GRPO 算法將同一問題生成的N條候選答案劃為一組，以組內(nèi)平均獎勵為基線，計(jì)算相對優(yōu)勢值。這種方法不需要額外訓(xùn)練價值模型，降低了訓(xùn)練復(fù)雜度，提高了訓(xùn)練效率。

GRPO 與 PPO 對比示意圖

03.獎勵模型的創(chuàng)新在強(qiáng)化學(xué)習(xí)的訓(xùn)練過程中，DeepSeek研究團(tuán)隊(duì)選擇面向結(jié)果的獎勵模型，而不是通常的面向過程的獎勵模型。這種方式可以較好地避免獎勵欺騙，同時，由于不需要大量標(biāo)注數(shù)據(jù)，可以降低訓(xùn)練復(fù)雜度。

結(jié)果獎勵和過程獎勵

“冷啟動+多階段RL”

為了解決純強(qiáng)化學(xué)習(xí)訓(xùn)練帶來的可讀性差和多語言混雜等問題，DeepSeek-R1采用“冷啟動+多階段RL”的訓(xùn)練策略。在冷啟動階段，引入數(shù)千條高質(zhì)量的長思維鏈數(shù)據(jù)對基礎(chǔ)模型進(jìn)行微調(diào)，強(qiáng)制規(guī)范輸出格式，提高可讀性。隨后，通過兩階段強(qiáng)化學(xué)習(xí)進(jìn)一步優(yōu)化模型的性能。

推理導(dǎo)向RL：結(jié)合規(guī)則獎勵（如答案準(zhǔn)確性、語言一致性），優(yōu)化模型在數(shù)學(xué)、編程等結(jié)構(gòu)化任務(wù)中的表現(xiàn)。

通用對齊RL：融入人類偏好獎勵模型，確保模型在開放域任務(wù)中的安全性與實(shí)用性。

DeepSeek-R1 的訓(xùn)練過程

DeepSeek-R1-Zero在訓(xùn)練初期沒有人工示范，完全靠自己摸索。就像讓小孩自己解謎題，結(jié)果他居然悟出了很多強(qiáng)大的解題技巧！但僅靠自我摸索的 DeepSeek-R1-Zero 給出的答案有時很難讀懂，甚至?xí)杏⑽幕祀s，或者偏離人們習(xí)慣的表達(dá)方式。

因此，在訓(xùn)練 DeepSeek-R1 時，DeepSeek 研究團(tuán)隊(duì)對模型進(jìn)行了兩次額外的調(diào)整：第一次是喂給它一些冷啟動的例子，相當(dāng)于給模型打好基礎(chǔ)，讓它知道回答時的基本禮儀和清晰度；第二次是在強(qiáng)化學(xué)習(xí)之后，收集在訓(xùn)練中表現(xiàn)優(yōu)秀的解題示例，再混合一些人工整理的題目，重新訓(xùn)練模型。通過這樣的流程，DeepSeek-R1 就像一個經(jīng)歷了自學(xué)、糾錯、再學(xué)習(xí)、再實(shí)戰(zhàn)的學(xué)生，已成長為解題高手。

上述過程還揭示了一個少有人注意的基本原則，那就是要讓模型自由地思考。在許多 AI實(shí)驗(yàn)中，模型的結(jié)構(gòu)約束越少，則當(dāng)計(jì)算資源增加時，最終性能的上限越高。反之，如果在早期給模型添加過多的結(jié)構(gòu)約束，則它的最終表現(xiàn)可能會受到限制，失去了更多自主探索的可能性。在各種訓(xùn)練模型推理能力的范式中，基于結(jié)果獎勵的強(qiáng)化學(xué)習(xí)給模型的約束最少。以結(jié)果為導(dǎo)向，用結(jié)果來激勵——“Don’t teach, incentivize.”也就是說，不要去“教”模型，而要“激勵”它自主探索。

《DeepSeek核心技術(shù)揭秘》是剖析DeepSeek技術(shù)原理的專業(yè)技術(shù)書，以全面的內(nèi)容、深入的技術(shù)原理解析和前瞻性的行業(yè)洞察，為技術(shù)人員、研究人員和大模型相關(guān)技術(shù)愛好者提供了寶貴的學(xué)習(xí)資料。

本書目錄結(jié)構(gòu) 第1章介紹DeepSeek的一系列技術(shù)突破與創(chuàng)新，如架構(gòu)創(chuàng)新、訓(xùn)練優(yōu)化、推理與部署優(yōu)化等，讓讀者對DeepSeek的性能突破形成直觀的認(rèn)識。同時，介紹DeepSeek的模型家族，涵蓋通用語言模型、多模態(tài)模型、代碼生成與理解等領(lǐng)域，展現(xiàn)了DeepSeek在大模型的不同細(xì)分領(lǐng)域取得的成就。

第2章為初學(xué)者深入淺出地講解DeepSeek的使用方法。從推理模型與通用模型的差異，到具體的使用案例，讀者可以直觀地感受DeepSeek在實(shí)際應(yīng)用中的強(qiáng)大功能。對提示工程的詳細(xì)介紹，可以幫助讀者了解如何通過精心設(shè)計(jì)的提示詞更好地發(fā)揮DeepSeek的能力。對提示詞鏈的高級使用技巧的介紹，為讀者進(jìn)一步提升DeepSeek使用效果提供參考。

第3章和第4章是本書的核心與精華。

第3章深入剖析DeepSeek-V3的模型架構(gòu)、訓(xùn)練框架、推理階段優(yōu)化、后訓(xùn)練優(yōu)化等關(guān)鍵技術(shù)。從混合專家模型（MoE）的起源與發(fā)展，到DeepSeek-V3的MoE優(yōu)化，再到對多頭潛在注意力（MLA）機(jī)制和多token預(yù)測的詳細(xì)解讀，幫助讀者全面了解DeepSeek-V3在技術(shù)上的先進(jìn)性和創(chuàng)新性。同時，對訓(xùn)練框架的并行策略、FP8混合精度訓(xùn)練及推理階段的優(yōu)化等內(nèi)容的深入分析，展示了DeepSeek在提升效率和性能方面的不懈追求。

第4章關(guān)于DeepSeek-R1的技術(shù)剖析同樣精彩紛呈。預(yù)備知識的介紹為讀者理解后續(xù)內(nèi)容打下了堅(jiān)實(shí)的基礎(chǔ)。對DeepSeek-R1-Zero的組相對策略優(yōu)化（GRPO）算法、獎勵模型等關(guān)鍵技術(shù)的深入剖析，可以幫助讀者了解DeepSeek在強(qiáng)化學(xué)習(xí)領(lǐng)域的創(chuàng)新性探索。對DeepSeek-R1 的訓(xùn)練過程和推理能力的蒸餾等內(nèi)容的詳細(xì)闡述，能讓讀者對這一創(chuàng)新技術(shù)的特點(diǎn)有全面的認(rèn)知。

第5章從宏觀的角度分析DeepSeek對人工智能技術(shù)格局的影響，包括打破硬件依賴迷思、沖擊英偉達(dá)CUDA護(hù)城河、引發(fā)大模型技術(shù)路線的重新思考等多個方面。同時，總結(jié)了DeepSeek 成功背后的啟示，如領(lǐng)導(dǎo)者敏銳的技術(shù)直覺、長期主義的堅(jiān)持、極致的工程優(yōu)化等，為讀者提供了寶貴的經(jīng)驗(yàn)和啟示。

第6章對DeepSeek“開源周”的多個技術(shù)項(xiàng)目進(jìn)行了深入的分析。通過對FlashMLA、DeepEP、DeepGEMM、DualPipe與EPLB、3FS等項(xiàng)目的介紹，展示了DeepSeek在開源領(lǐng)域的積極探索，體現(xiàn)了其推動大模型技術(shù)普及和發(fā)展的決心。這些技術(shù)項(xiàng)目的詳細(xì)解讀，能讓讀者了解DeepSeek在降低人工智能技術(shù)門檻、促進(jìn)技術(shù)交流與合作方面的巨大貢獻(xiàn)。

第7章對大模型的發(fā)展進(jìn)行了討論。從MoE的發(fā)展趨勢、MLA的展望，大模型的訓(xùn)練方法、推理部署，到GPU硬件及推理模型的發(fā)展趨勢，以前瞻性的視角為讀者描繪了大模型的發(fā)展藍(lán)圖。

DeepSeek核心+配套視頻課程

本書由一線資深技術(shù)人員編寫，知識點(diǎn)講解清晰。內(nèi)容完全圍繞DeepSeek核心技術(shù)展開，提煉精華，不討論與DeepSeek有關(guān)的大模型基礎(chǔ)，而是關(guān)注DeepSeek本身。

盧菁，北京科技大學(xué)博士，北京大學(xué)博士后，B站、視頻號優(yōu)秀科技博主。曾任職于騰訊、愛奇藝等知名互聯(lián)網(wǎng)公司，主要從事人工智能技術(shù)的應(yīng)用和研發(fā)工作，主要研究方向?yàn)榇竽Ｐ?、多模態(tài)、自然語言處理、知識圖譜、推薦系統(tǒng)等。著有《速通機(jī)器學(xué)習(xí)》《速通深度學(xué)習(xí)數(shù)學(xué)基礎(chǔ)》。

戴志仕，資深A(yù)I架構(gòu)師，“寒武紀(jì)人工智能”公眾號的創(chuàng)立者。2024年CCF國際AIOps挑戰(zhàn)賽優(yōu)秀獎獲得者。擁有十余年人工智能算法研究和產(chǎn)業(yè)落地經(jīng)驗(yàn)，成功實(shí)施過多個人工智能項(xiàng)目。

申請時間

2025年6月9日——2025年7月11日

活動參與方式

1、在本帖下方留言回帖說說你想要這本書的理由15字以上。

2、我們將從本帖留言中挑選3位幸運(yùn)者贈送此書籍，共贈送4本。

3、請?jiān)谑盏綍?個星期內(nèi)提交不少于2篇試讀報告要求300字以上圖文并茂。

4、試讀報告發(fā)表在電子發(fā)燒友論壇>>社區(qū)活動專版標(biāo)題名稱必須包含【「DeepSeek 核心技術(shù)揭秘」閱讀體驗(yàn)】+自擬標(biāo)題

注意事項(xiàng)

1、活動期間如有作弊、灌水等違反電子發(fā)燒友論壇規(guī)則的行為一經(jīng)發(fā)現(xiàn)將立即取消獲獎資格

2、活動結(jié)束后獲獎名單將在論壇公示請活動參與者盡量完善個人信息如管理員無法聯(lián)系到選中的評測者則視為自動放棄。

3、申請人收貨后14天內(nèi)未完成書評無權(quán)將書籍出售或轉(zhuǎn)贈給他人。如無法在收貨后14天內(nèi)提交書評請將書籍退回電子發(fā)燒友論壇運(yùn)費(fèi)自理。

4、如有問題請咨詢工作人員（微信：elecfans123）。

聲明：本文由電子發(fā)燒友社區(qū)發(fā)布，轉(zhuǎn)載請注明以上來源。如需平臺（包括：試用+專欄+企業(yè)號+學(xué)院+技術(shù)直播+共建社區(qū)）合作及入群交流，請咨詢18925255684（微信同號：elecfans123），謝謝！