華為盤古大模型部署已久，其負(fù)責(zé)人是華為云ai首席科學(xué)家田奇。

田奇于2008年至2009年從大學(xué)轉(zhuǎn)到微軟亞洲研究所多媒體計算組進(jìn)行研究。2018年，天奇加入華為，作為首席科學(xué)家負(fù)責(zé)華為云計算相關(guān)業(yè)務(wù)。

2020年，在田奇的帶領(lǐng)下，華為將啟動半球模型研發(fā)，2021年4月正式發(fā)布，2022年將聚焦行業(yè)應(yīng)用落實。今年7月7日，華為開發(fā)者大會（cloud）期間，版口3.0模型正式發(fā)布。

盤古大模型 3.0是由“5+ n + x”構(gòu)成的完整的產(chǎn)業(yè)指向型大規(guī)模模型系列。

其中，L0層是指基礎(chǔ)大模型，包括NLP（自然語言處理）大模型、CV（計算機(jī)視覺）大模型、多模態(tài)大模型、科學(xué)計算大模型和預(yù)測大模型五個基礎(chǔ)大模型。

在這五個發(fā)展方向上，華為的成熟度是不同的。與chatgpt在nlp領(lǐng)域表現(xiàn)強(qiáng)勢不同，盤古大模型原本是指向b領(lǐng)域顧客的服務(wù)，因此將焦點(diǎn)放在了更加成熟的cv領(lǐng)域。

l1層是指n個行業(yè)的大模型，華為云可以提供業(yè)界通用的大模型，包括政府業(yè)務(wù)、金融、制造、礦山、氣象等大模型。并且根據(jù)客戶的個人數(shù)據(jù)，在l0和l1層為客戶訓(xùn)練自己的專用大型模型。

l2提供更為細(xì)化的劇本作為模型，l1為基礎(chǔ)產(chǎn)業(yè)細(xì)分劇本結(jié)合在一起，就有可能獲得推論作為模型、政府直撥電話，地點(diǎn)助手、藥品遴選、異物探測臺風(fēng)路徑預(yù)測等特定產(chǎn)業(yè)應(yīng)用程序“，”立即可用的模式提供服務(wù)。

從整體上看，盤古大模型分為3個訓(xùn)練階段。一是事前培訓(xùn)，利用龐大數(shù)據(jù)進(jìn)行事前培訓(xùn)，獲得通用基礎(chǔ)模型；二是針對微調(diào)，下游行業(yè)的具體任務(wù)，結(jié)合行業(yè)數(shù)據(jù)進(jìn)行微調(diào)。三是將大型模型反復(fù)產(chǎn)生的新數(shù)據(jù)與以前訓(xùn)練使用的數(shù)據(jù)相結(jié)合，實現(xiàn)大型模型的終身學(xué)習(xí)。

因此，盤古大模型3.0具有自身風(fēng)箏和自動化兩種特征。

華為首席執(zhí)行官張平安此前表示：“華為自主開發(fā)的AI根基技術(shù)在最底層構(gòu)建了以鯤鵬、昇騰為基礎(chǔ)的AI昇騰云計算基礎(chǔ)設(shè)施。還有一個計算框架，cann。升級云的效率反而領(lǐng)先于業(yè)界主流gpu。盤古大型模型訓(xùn)練效率比行業(yè)主流gpu平均提高1.1倍。

解耦是“盤古大模型3.0”的另一個關(guān)鍵詞。在設(shè)計方面，半古代模型采用了完整的分層解耦設(shè)計。合作伙伴可以在此基礎(chǔ)上為自己的模型加載額外的數(shù)據(jù)集，并獨(dú)立升級基本模型和功能集。

與此同時，華為云以l0和l1模型為基礎(chǔ)，為客戶提供大型模型產(chǎn)業(yè)開發(fā)工具，通過對客戶個人數(shù)據(jù)的二次培訓(xùn)，客戶可以擁有自己的專業(yè)產(chǎn)業(yè)大型模型。并且，根據(jù)客戶不同的數(shù)據(jù)安全及規(guī)程要求，vango大型模型提供公共云、大型模型云領(lǐng)域、混合云的多種配置形態(tài)。