一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

趕緊在本地運行與OpenAI-o1能力近似的DeepSeek-R1模型

jf_23871869 ? 來源: 劉力 ? 作者: 劉力 ? 2025-01-21 14:29 ? 次閱讀

?作者:算力魔方創(chuàng)始人/英特爾邊緣計算創(chuàng)新大使 劉力

前面我們分享了《在算力魔方上本地部署Phi-4模型》,實現(xiàn)了在邊緣端獲得Llama 3.3 70B模型差不多的能力。還分享,《如何在邊緣端獲得類似GPT4-V的能力:MiniCPM-V 2.6 》。本文將分享在本地運行能與OpenAI-o1 能力相媲美的DeepSeek-R1模型。

[編者注]:OpenAI-o1是OpenAI 于2024年9月12日發(fā)布的針對復雜推理問題的全新大模型,也就是Sam一直說的“草莓”。該模型一經(jīng)發(fā)布就引起了巨大關注,它能在回答問題之前能夠進行更長時間的“深度思考”,且思考時間越長,推理質量越高。

2025年1月20日,DeepSeek 正式開源 DeepSeek-R1 推理模型,其能力跟OpenAI-o1正式版差不多,另外還提供經(jīng)過蒸餾,能在本地運行的小模型,其能力跟 OpenAI-O1-mini 近似:

wKgZPGePOzOAE5GkAAeMma6stxc194.png

參考鏈接:https://github.com/deepseek-ai/DeepSeek-R1

本文將分享DeepSeek-R1-Distill-Qwen-7B模型在算力魔方?4060版上的部署過程。

一,安裝Ollama

請按照《Gemma 2+Ollama在算力魔方上幫你在LeetCode解題》安裝Ollama。

wKgZO2ePO16ADfXAAAPzdBfdQb4406.png

二,運行DeepSeek-R1-Distill-Qwen-7B

使用下面的命令完成運行DeepSeek-R1-Distill-Qwen-7B:

ollama run deepseek-r1
wKgZPGePO26AcHNZAAG3GeqvbLw000.png

三,體驗DeepSeek-R1的數(shù)學、代碼和推理能力

輸入下面的提示詞,體驗DeepSeek-R1的數(shù)學、代碼和推理能力:

忒修斯之船悖論測試推理能力:“如果一艘船的所有部件都被替換,它還是原來的船嗎?請從哲學、物理和邏輯學角度分別分析,并嘗試提出一個自洽的解決方案?”

高階數(shù)學推理測試數(shù)學能力:“證明:在三維歐幾里得空間中,不存在五個兩兩正交的非零向量。請分步驟說明邏輯推導過程,并檢查是否存在拓撲學或線性代數(shù)視角的替代證明方法?!?/p>

極端場景處理測試編程能力:“編寫C程序實現(xiàn)高精度溫度傳感器數(shù)據(jù)處理,要求:1,在內存<2KB的嵌入式設備運行;2,能處理傳感器噪聲(Kalman濾波)。給出防止整型溢出和浮點誤差的具體策略?!?/p>

視頻鏈接如下:

https://live.csdn.net/v/460546

四,總結

使用Ollama可以方便快捷的將DeepSeek-R1模型本地化部署在算力魔方?上,讓您獲得強大的數(shù)學、代碼和推理能力。

如果你有更好的文章,歡迎投稿!

稿件接收郵箱:nami.liu@pasuntech.com

更多精彩內容請關注“算力魔方?”!

?審核編輯 黃宇

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • AI
    AI
    +關注

    關注

    87

    文章

    33554

    瀏覽量

    274192
  • OpenAI
    +關注

    關注

    9

    文章

    1196

    瀏覽量

    8289
  • DeepSeek
    +關注

    關注

    1

    文章

    755

    瀏覽量

    1045
收藏 人收藏

    評論

    相關推薦

    DeepSeek-R1實現(xiàn)自動生成Manim動畫

    ? 作者:算力魔方創(chuàng)始人/英特爾創(chuàng)新大使劉力 前面我們分享了本地運行能與OpenAI-o1 能力相媲美的
    的頭像 發(fā)表于 02-07 12:31 ?2893次閱讀
    用<b class='flag-5'>DeepSeek-R1</b>實現(xiàn)自動生成Manim動畫

    如何使用OpenVINO運行DeepSeek-R1蒸餾模型

    DeepSeek-R1春節(jié)期間引發(fā)了全球科技界的熱度,DeepSeek-R1 是由 DeepSeek 開發(fā)的開源推理模型,用于解決需要邏輯
    的頭像 發(fā)表于 03-12 13:45 ?1065次閱讀
    如何使用OpenVINO<b class='flag-5'>運行</b><b class='flag-5'>DeepSeek-R1</b>蒸餾<b class='flag-5'>模型</b>

    了解DeepSeek-V3 和 DeepSeek-R1兩個大模型的不同定位和應用選擇

    DeepSeek-V3 和 DeepSeek-R1 是深度求索公司(DeepSeek)推出的兩個不同定位的大模型,其核心差異主要體現(xiàn)在目標場景、能力
    發(fā)表于 02-14 02:08

    RK3588開發(fā)板上部署DeepSeek-R1模型的完整指南

    DeepSeek作為國產(chǎn)AI大數(shù)據(jù)模型的代表,憑借其卓越的推理能力和高效的文本生成技術,全球人工智能領域引發(fā)廣泛關注。DeepSeek-R1
    發(fā)表于 02-27 16:45

    對標OpenAI o1,DeepSeek-R1發(fā)布

    DeepSeek-R1 在后訓練階段大規(guī)模使用了強化學習技術,僅有極少標注數(shù)據(jù)的情況下,極大提升了模型推理能力。在數(shù)學、代碼、自然語言推理等任務上,性能比肩
    的頭像 發(fā)表于 01-22 13:46 ?1175次閱讀
    對標<b class='flag-5'>OpenAI</b> <b class='flag-5'>o1</b>,<b class='flag-5'>DeepSeek-R1</b>發(fā)布

    芯動力神速適配DeepSeek-R1模型,AI芯片設計邁入“快車道”!

    OpenAI o1的推理效果,還能為用戶展現(xiàn)完整的思考過程 。1月24日的Arena上,DeepSeek-R1 基準測試已經(jīng)
    的頭像 發(fā)表于 02-07 16:55 ?466次閱讀
    芯動力神速適配<b class='flag-5'>DeepSeek-R1</b>大<b class='flag-5'>模型</b>,AI芯片設計邁入“快車道”!

    deepin UOS AI接入DeepSeek-R1模型

    DeepSeek-R1 模型自發(fā)布以來吸引了眾多用戶關注,為了讓 deepin 用戶更好地體驗這一前沿技術,UOS AI 現(xiàn)已適配接入 DeepSeek-R1 端側模型!無需忍受服務器
    的頭像 發(fā)表于 02-08 09:52 ?734次閱讀

    DeepSeek-R1本地部署指南,開啟你的AI探索之旅

    R1 2025.01.20 DeepSeek-R1 發(fā)布,DeepSeek R1DeepSeek AI 開發(fā)的第一代推理
    的頭像 發(fā)表于 02-08 10:30 ?4898次閱讀
    <b class='flag-5'>DeepSeek-R1</b><b class='flag-5'>本地</b>部署指南,開啟你的AI探索之旅

    AIBOX 全系產(chǎn)品已適配 DeepSeek-R1

    DeepSeek-R1在后訓練階段大規(guī)模使用了強化學習技術,僅有極少標注數(shù)據(jù)的情況下,極大提升了模型推理能力,目前基于開源的R1
    的頭像 發(fā)表于 02-08 17:30 ?400次閱讀
    AIBOX 全系產(chǎn)品已適配 <b class='flag-5'>DeepSeek-R1</b>

    Deepseek R1模型離線部署教程

    。作為國產(chǎn)AI大數(shù)據(jù)模型的代表,憑借其卓越的推理能力和高效的文本生成技術,全球人工智能領域引發(fā)廣泛關注。 本文主要說明DeepSeek-R1如何離線
    的頭像 發(fā)表于 02-12 09:37 ?1380次閱讀
    <b class='flag-5'>Deepseek</b> <b class='flag-5'>R1</b>大<b class='flag-5'>模型</b>離線部署教程

    超星未來驚蟄R1芯片適配DeepSeek-R1模型

    日前,超星未來研發(fā)團隊成功完成了驚蟄R1芯片對DeepSeek-R1模型的適配工作,實現(xiàn)了與用戶之間的流暢對話。這一成果標志著超星未來人工智能芯片和
    的頭像 發(fā)表于 02-13 14:05 ?450次閱讀

    宇芯基于T527成功部署DeepSeek-R1

    近日,宇芯成功全志T527 Linux系統(tǒng)上本地部署并運行DeepSeek-R1 1.5B模型。
    的頭像 發(fā)表于 02-15 09:06 ?795次閱讀
    宇芯基于T527成功部署<b class='flag-5'>DeepSeek-R1</b>

    OpenAI O3與DeepSeek R1:推理模型性能深度分析

    ,OpenAIO3在編碼任務方面超過了DeepSeekR1,而R1在數(shù)學和推理方面表現(xiàn)出了競爭力,同時
    的頭像 發(fā)表于 02-18 11:07 ?594次閱讀

    香橙派發(fā)布OrangePi 5Plus本地部署Deepseek-R1蒸餾模型指南

    派官方發(fā)布OrangePi5Plus運行Deepseek-R1蒸餾模型實操指南,趕緊收藏起來吧!OrangePi5Plus采用了瑞芯微RK3588八核64位處理器
    的頭像 發(fā)表于 02-19 16:14 ?834次閱讀
    香橙派發(fā)布OrangePi 5Plus<b class='flag-5'>本地</b>部署<b class='flag-5'>Deepseek-R1</b>蒸餾<b class='flag-5'>模型</b>指南

    行芯完成DeepSeek-R1模型本地化部署

    近日,行芯正式宣布完成 DeepSeek-R1模型本地化部署,實現(xiàn)在多場景、多產(chǎn)品中應用。解鎖“芯”玩法,開啟“芯”未來!
    的頭像 發(fā)表于 02-24 15:17 ?471次閱讀