北京2025年2月21日/美通社/ -- 浪潮信息宣布元腦企智EPAI企業(yè)大模型開發(fā)平臺已全面接入支持DeepSeek大模型。通過元腦企智EPAI，企業(yè)用戶能夠?qū)I(yè)務(wù)數(shù)據(jù)與DeepSeek大模型結(jié)合，深度開發(fā)模型潛力，快速實(shí)現(xiàn)本地化部署DeepSeek，構(gòu)建準(zhǔn)確率高、安全穩(wěn)定的專屬智能應(yīng)用。實(shí)測數(shù)據(jù)顯示，DeepSeek在元腦企智EPAI上開發(fā)的企業(yè)應(yīng)用回答準(zhǔn)確率達(dá)到95%。

企業(yè)落地DeepSeek挑戰(zhàn)重重

DeepSeek R1 671B大模型憑借其卓越性能和廣泛應(yīng)用前景廣受關(guān)注。然而，企業(yè)在實(shí)際落地DeepSeek的過程中卻面臨私有知識適配不足、知識動態(tài)變化、大模型幻覺等諸多挑戰(zhàn)，限制了其在特定場景中的應(yīng)用潛力。

首先，企業(yè)的應(yīng)用場景往往具有高度的獨(dú)特性和專業(yè)性，尤其是金融、醫(yī)療等行業(yè)，其業(yè)務(wù)邏輯復(fù)雜，涉及大量專業(yè)術(shù)語、法規(guī)政策以及內(nèi)部流程。這些企業(yè)需要能夠理解并運(yùn)用其私有知識的智能工具，然而DeepSeek大模型的訓(xùn)練數(shù)據(jù)主要來源于通用領(lǐng)域的公開信息，缺乏針對專業(yè)領(lǐng)域的深度適配，這種先天的知識不匹配導(dǎo)致DeepSeek在處理企業(yè)內(nèi)部專業(yè)問題時難以提供精準(zhǔn)答案，無法滿足企業(yè)對高精度回答的需求。

其次，企業(yè)內(nèi)部知識并非靜態(tài)不變，而是會隨著業(yè)務(wù)發(fā)展和技術(shù)迭代不斷更新。如果模型未能及時學(xué)習(xí)和適應(yīng)這些動態(tài)變化，其輸出結(jié)果的準(zhǔn)確性將進(jìn)一步下降。尤其是在涉及實(shí)時數(shù)據(jù)分析或快速決策支持的應(yīng)用場景中，模型的滯后性可能帶來嚴(yán)重后果。

此外，大模型在生成內(nèi)容時，難免會出現(xiàn)"幻覺"問題，即生成與事實(shí)不符或缺乏依據(jù)的信息。這種現(xiàn)象在通用場景下可能影響有限，但在法律、醫(yī)學(xué)等對準(zhǔn)確性要求極高的領(lǐng)域，幻覺問題將帶來潛在風(fēng)險。如何有效降低大模型的幻覺發(fā)生率，提升生成內(nèi)容的可靠性和準(zhǔn)確性，已成為行業(yè)共同關(guān)注的焦點(diǎn)。

因此，要真正實(shí)現(xiàn)DeepSeek的落地應(yīng)用，必須將企業(yè)自身積累的知識與DeepSeek深度結(jié)合，通過模型微調(diào)、Prompt工程、知識庫等方式優(yōu)化模型表現(xiàn)，而這一過程對企業(yè)的技術(shù)能力的要求極高。此外，企業(yè)還面臨數(shù)據(jù)安全與隱私保護(hù)的雙重壓力。

元腦EPAI+DeepSeek，企業(yè)大模型應(yīng)用開發(fā)如虎添翼

面對上述挑戰(zhàn)，元腦企智EPAI與DeepSeek R1 671B全面適配，幫助企業(yè)用戶將業(yè)務(wù)數(shù)據(jù)與DeepSeek深度融合，快速打造高準(zhǔn)確率、安全穩(wěn)定的企業(yè)專屬智能應(yīng)用。元腦企智EPAI是浪潮信息的大模型應(yīng)用落地解決之道，能夠為企業(yè)AI大模型落地應(yīng)用提供高效、易用、安全的端到端開發(fā)平臺，幫助企業(yè)高效開發(fā)部署生成式AI應(yīng)用、打造智能生產(chǎn)力。

四大核心工具，DeepSeek回答準(zhǔn)確率大幅提升
回答準(zhǔn)確率優(yōu)化方面，元腦企智EPAI構(gòu)建了從模型微調(diào)到應(yīng)用開發(fā)全鏈路質(zhì)量提升體系。元腦企智EPAI支持企業(yè)將私有業(yè)務(wù)數(shù)據(jù)與DeepSeek深度結(jié)合，通過領(lǐng)域微調(diào)形成高專業(yè)度的私有模型，從根本上提升知識問答精度。針對DeepSeek"幻覺"問題，元腦企智EPAI集成知識檢索、插件管理、提示詞工程和智能體編排四大核心工具。知識檢索模塊采用端到端優(yōu)化的RAG pipeline架構(gòu)，內(nèi)置專為增強(qiáng)中文文本檢索能力而設(shè)計的嵌入式模型（Embedding模型）Yuan-EB，在權(quán)威的嵌入模型測試榜單C-MTEB中斬獲檢索任務(wù)冠軍，能夠有效提升RAG系統(tǒng)的檢索精度。結(jié)合領(lǐng)先的混合檢索與結(jié)果重排技術(shù)，端到端檢索精度超過90%。插件模塊支持實(shí)時接入企業(yè)知識庫和業(yè)務(wù)系統(tǒng)，確保信息獲取的準(zhǔn)確性和時效性。智能體編排模塊可建立多模型協(xié)同工作機(jī)制，通過決策鏈設(shè)計降低單一模型偏差風(fēng)險。實(shí)測數(shù)據(jù)顯示，DeepSeek在元腦企智 EPAI上開發(fā)的企業(yè)應(yīng)用回答準(zhǔn)確率達(dá)到95%。

低代碼+可視化，顯著提升開發(fā)效率
開發(fā)效率方面，元腦企智EPAI創(chuàng)新性地構(gòu)建了"低代碼+可視化"的全棧開發(fā)環(huán)境。集成vLLM、transformer等主流框架，實(shí)現(xiàn)DeepSeek全參數(shù)模型服務(wù)分鐘級上線。模型微調(diào)上，元腦企智EPAI支持通過低代碼完成微調(diào)數(shù)據(jù)制作、領(lǐng)域模型微調(diào)和評估。應(yīng)用開發(fā)上提供雙模構(gòu)建體系，對話式應(yīng)用支持通過自然語言配置助手參數(shù)，可視化工作流編輯器支持拖拽式搭建復(fù)雜業(yè)務(wù)邏輯，二者均可自動生成標(biāo)準(zhǔn)化API接口。某制造企業(yè)實(shí)踐表明，使用元腦企智EPAI開發(fā)質(zhì)檢智能體應(yīng)用，需求響應(yīng)周期從傳統(tǒng)編碼開發(fā)的3周縮短至3天，開發(fā)效率提升5倍以上。

多層防護(hù)機(jī)制，確保DeepSeek安全穩(wěn)定
系統(tǒng)穩(wěn)定性保障方面，元腦企智EPAI采用智能彈性架構(gòu)設(shè)計。資源調(diào)度系統(tǒng)實(shí)時監(jiān)測QPS波動，可在1秒內(nèi)完成計算資源動態(tài)擴(kuò)縮，實(shí)現(xiàn)高并發(fā)的穩(wěn)定處理。元腦企智EPAI引入服務(wù)容錯能力，硬件故障時可實(shí)現(xiàn)服務(wù)無縫切換，保障全年可用性達(dá)99.99%。安全體系構(gòu)建多層防護(hù)機(jī)制，涵蓋模型輸入過濾、輸出審核、數(shù)據(jù)加密傳輸?shù)拳h(huán)節(jié)，保障生成內(nèi)容的安全性與隱私性，從而確保企業(yè)能夠安全、穩(wěn)定地使用DeepSeek。

浪潮信息是全球領(lǐng)先的IT基礎(chǔ)設(shè)施產(chǎn)品、方案和服務(wù)提供商，通過發(fā)展新一代以系統(tǒng)為核心的計算架構(gòu)，打造開放、多元、綠色的元腦智算產(chǎn)品和方案。浪潮信息致力于AI計算平臺、資源平臺和算法平臺的研發(fā)創(chuàng)新，并通過元腦生態(tài)攜手領(lǐng)先伙伴，加速人工智能的創(chuàng)新和應(yīng)用落地。

審核編輯 黃宇