5月11日，鯤鵬昇騰開發(fā)者大會2024期間，華為舉辦“昇思AI框架及大模型技術論壇”，軟通動力數(shù)字基礎設施與集成事業(yè)部總經(jīng)理謝睿受邀出席、軟通動力數(shù)字基礎設施與集成事業(yè)部技術總監(jiān)單繼嶺發(fā)表《基于昇思Mind Spore，軟通動力賦能客戶應用與實踐》主題分享，全方位展示基于AI框架技術的原生應用及客戶實踐。

會上，單繼嶺介紹了軟通動力在人工智能領域的技術能力，以及結合華為MindSpore框架為客戶帶來創(chuàng)新的應用場景等內(nèi)容。基于軟通AI訓推一體化平臺，輸出標準模型遷移流程，從而幫助企業(yè)實現(xiàn)大模型的“最后一公里”，推動各行業(yè)領域數(shù)字化轉型。

軟通AI訓推一體化平臺

軟通AI訓推一體化平臺支持大規(guī)模集群計算環(huán)境下NPU/GPU異構計算資源按需、高效、自動調(diào)度，可為客戶提供數(shù)據(jù)中心、開發(fā)中心、訓練中心、模型中心、服務中心等一站式服務能力。平臺基于MindSpore等多種計算框架和算法，內(nèi)置大語言、圖文、多模態(tài)大模型，疊加行業(yè)應用，能夠加速大模型落地賦能業(yè)務，幫助企業(yè)和客戶完成國產(chǎn)化、數(shù)字化、智能化的轉型升級。目前，軟通AI訓推一體化平臺已覆蓋央國企、金融、教育等行業(yè)，打造多個Offering服務不同客戶，助力用戶快速實現(xiàn)大模型場景訓練/推理“最后一公里”。

在央國企領域，基于司庫應用，打造司庫一體化產(chǎn)品，實現(xiàn)業(yè)財深度融合，在客戶實際落地過程中，幫助客戶對現(xiàn)有業(yè)務系統(tǒng)、管理模式改造升級，解決業(yè)務人工成本高、效率低等問題，幫助客戶構筑數(shù)字化生產(chǎn)力堡壘，在集團建設可復用的業(yè)務及數(shù)據(jù)能力。

在教育領域，軟通AI訓推一體化平臺基于AI硬件底座及通用大模型本地私有化部署，打造數(shù)字經(jīng)濟AI分析模型助手，實現(xiàn)自動批量提取經(jīng)濟新聞、熱點、事件等關鍵信息并導出提取結果，可快速構建系統(tǒng)化數(shù)據(jù)庫，并通過模擬人工操作以實現(xiàn)流程自動化，顯著提升科研效率。

基于MindSpore模型遷移全流程

1

模型權重轉換：模型分析與準備、權重轉換

2

模型遷移：網(wǎng)絡遷移開發(fā)、精度和性能調(diào)試

3

推理和訓練代碼遷移：單卡/多卡在線推理+精度驗證、單卡/多卡finetune/peft +精度驗證、單卡/多卡預訓練 +精度驗證等

4

模型精度對齊和模型測評：網(wǎng)絡結構對比、網(wǎng)絡正向結果對比、網(wǎng)絡loss結果對比、基于開源數(shù)據(jù)集模型評測分數(shù)對比等。

未來，軟通動力將攜手華為，依托MindSpore框架，為客戶打造更加優(yōu)質(zhì)的人工智能解決方案，不斷提升在AI技術領域的服務能力，共同促進AI技術的進步和廣泛應用。

審核編輯：劉清