電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)深度學(xué)習(xí)框架是一種底層開(kāi)發(fā)工具,是集深度學(xué)習(xí)核心訓(xùn)練和推理框架、基礎(chǔ)模型庫(kù)、端到端開(kāi)發(fā)套件、豐富的工具組件于一體的平臺(tái)。
有了深度學(xué)習(xí)框架,工程師在工作時(shí)調(diào)試算法,就可以更快速、更高效。通俗一點(diǎn)講,深度學(xué)習(xí)框架相當(dāng)于是AI時(shí)代的操作系統(tǒng),如同PC時(shí)代Windows,移動(dòng)互聯(lián)網(wǎng)時(shí)代的iOS和安卓。
國(guó)內(nèi)外都有哪些深度學(xué)習(xí)框架
深度學(xué)習(xí)框架的歷史并不算長(zhǎng),從2010年誕生的Theano算起,至今不過(guò)十二年時(shí)間。2017年后,早期的Theano、Caffe、Torch等框架逐漸銷(xiāo)聲匿跡,2016年前后出現(xiàn)的TensorFlow、PyTorch、飛槳逐漸占據(jù)市場(chǎng)。
TensorFlow由谷歌人工智能團(tuán)隊(duì)谷歌大腦開(kāi)發(fā),擁有包括TensorFlow Hub、TensorFlow Lite、TensorFlow Research Cloud在內(nèi)的多個(gè)項(xiàng)目以及各類(lèi)應(yīng)用程序接口。自2015年11月9日起,TensorFlow依據(jù)阿帕奇授權(quán)協(xié)議(Apache 2.0 open source license)開(kāi)放源代碼。
PyTorch于2017年由Facebook人工智能研究院(FAIR)基于Torch推出,它是一個(gè)基于Python的可續(xù)計(jì)算包,提供兩個(gè)高級(jí)功能:1、具有強(qiáng)大的GPU加速的張量計(jì)算(如NumPy);2、包含自動(dòng)求導(dǎo)系統(tǒng)的深度神經(jīng)網(wǎng)絡(luò)。
飛槳(PaddlePaddle)以百度多年的深度學(xué)習(xí)技術(shù)研究和業(yè)務(wù)應(yīng)用為基礎(chǔ),集深度學(xué)習(xí)核心訓(xùn)練和推理框架、基礎(chǔ)模型庫(kù)、端到端開(kāi)發(fā)套件、豐富的工具組件于一體,是中國(guó)首個(gè)自主研發(fā)、功能完備、開(kāi)源開(kāi)放的產(chǎn)業(yè)級(jí)深度學(xué)習(xí)平臺(tái)。
根據(jù)調(diào)研機(jī)構(gòu)IDC公布的一份中國(guó)深度學(xué)習(xí)框架平臺(tái)市場(chǎng)份額的報(bào)告,在中國(guó)深度學(xué)習(xí)領(lǐng)域,百度飛槳綜合市場(chǎng)份額已經(jīng)成為中國(guó)第一。截至2022年5月,飛槳已經(jīng)凝聚477萬(wàn)開(kāi)發(fā)者,創(chuàng)造56萬(wàn)個(gè)AI模型,服務(wù)18萬(wàn)企事業(yè)單位,與產(chǎn)學(xué)研用協(xié)同培養(yǎng)超過(guò)200萬(wàn)AI人才。
從目前市場(chǎng)占有情況看,產(chǎn)業(yè)界以TensorFlow為主,學(xué)術(shù)界以PyTorch為主。與TensorFlow過(guò)于注重工業(yè),PyTorch專(zhuān)注學(xué)界不同,飛槳的特性在于工業(yè)學(xué)界兩手抓,通過(guò)動(dòng)態(tài)圖自動(dòng)解析編譯靜態(tài)圖的技術(shù),兼顧了學(xué)界的靈活,同時(shí)也實(shí)現(xiàn)了產(chǎn)業(yè)界希望的高效。
除了TensorFlow、PyTorch、飛槳,深度學(xué)習(xí)框架還包括由Amazon設(shè)計(jì)研發(fā)并開(kāi)源MXNet、微軟在github上開(kāi)源的CNTK、華為推出的MindSpore、北京一流科技有限公司開(kāi)發(fā)的OneFlow,以及清華大學(xué)自研Jittor,和騰訊、字節(jié)跳動(dòng)、360開(kāi)源的Angel、BytePS、TensorNet。
國(guó)產(chǎn)深度學(xué)習(xí)框架框架的挑戰(zhàn)
深度學(xué)習(xí)框架是智能時(shí)代的操作系統(tǒng),它和芯片一起共同構(gòu)成了人工智能的基礎(chǔ)設(shè)施,深度學(xué)習(xí)框架的重要性不亞于芯片。在“十四五”規(guī)劃中,深度學(xué)習(xí)框架被列入“新一代人工智能”領(lǐng)域,成為國(guó)家重點(diǎn)支持的前沿創(chuàng)新技術(shù)。
如今以百度飛槳為代表,我國(guó)深度學(xué)習(xí)平臺(tái)已經(jīng)沖破國(guó)外技術(shù)壟斷,越來(lái)越多的開(kāi)發(fā)者正基于國(guó)產(chǎn)深度學(xué)習(xí)平臺(tái)開(kāi)展智能化轉(zhuǎn)型應(yīng)用。不過(guò),中國(guó)自研深度學(xué)習(xí)框架想要在國(guó)際競(jìng)爭(zhēng)中取得領(lǐng)先,還有很長(zhǎng)的路要走。
百度AI技術(shù)生態(tài)總經(jīng)理馬艷軍此前在百度AI開(kāi)放日活動(dòng)上表示,當(dāng)前中國(guó)深度學(xué)習(xí)框架的發(fā)展仍需突破三大關(guān)鍵點(diǎn):技術(shù)實(shí)力、功能體驗(yàn)、生態(tài)規(guī)模。
首先,技術(shù)創(chuàng)新方面,深度學(xué)習(xí)框架的研發(fā)需要人工智能領(lǐng)域底層技術(shù)人才,我國(guó)在這一領(lǐng)域的儲(chǔ)備仍有不足。其次,在應(yīng)用體驗(yàn)方面,由于中國(guó)是全球產(chǎn)業(yè)鏈最為完備的國(guó)家,產(chǎn)業(yè)體系復(fù)雜,中小企業(yè)轉(zhuǎn)型需求迫在眉睫,一個(gè)低門(mén)檻甚至零門(mén)檻的開(kāi)發(fā)平臺(tái)極為重要。
在開(kāi)發(fā)應(yīng)用生態(tài)方面,深度學(xué)習(xí)是一個(gè)典型的共創(chuàng)型技術(shù)領(lǐng)域,只有構(gòu)建了自己的生態(tài)才能實(shí)現(xiàn)持續(xù)迭代和發(fā)展。然而構(gòu)建生態(tài)周期長(zhǎng)、成本高,而且只有當(dāng)國(guó)產(chǎn)框架的技術(shù)和功能體驗(yàn)足以滿足開(kāi)發(fā)者的需求時(shí),才有機(jī)會(huì)培育起自主創(chuàng)新的AI開(kāi)發(fā)應(yīng)用生態(tài)。
日前華為公司中央軟件院架構(gòu)與設(shè)計(jì)管理部部長(zhǎng),華為科學(xué)家與昇思MindSpore首席架構(gòu)師金雪鋒在某活動(dòng)上也談到“AI框架的挑戰(zhàn)”相關(guān)的話題。
他認(rèn)為,在人工智能新基建時(shí)代,AI框架面臨這幾個(gè)挑戰(zhàn)和機(jī)會(huì)點(diǎn):1、新的應(yīng)用范式:模型復(fù)雜度指數(shù)級(jí)增長(zhǎng),大模型成為新生產(chǎn)方式,AI與傳統(tǒng)科學(xué)計(jì)算融合,有望催生革命性成果。2、新的計(jì)算架構(gòu):計(jì)算量指數(shù)增長(zhǎng),通用芯片向領(lǐng)域高效能芯片轉(zhuǎn)變,雙碳經(jīng)濟(jì)下,分散低效的算力向集約高效算力演進(jìn)。3、新的開(kāi)發(fā)和部署方式:AI行業(yè)應(yīng)用進(jìn)入深水區(qū),融入生產(chǎn)系統(tǒng)是關(guān)鍵。
面對(duì)上述挑戰(zhàn)和機(jī)會(huì)點(diǎn),華為昇思MindSpore進(jìn)行了技術(shù)創(chuàng)新,比如面向新的應(yīng)用范式,包括自動(dòng)并行,原生大模型支持,即自動(dòng)并行AI編譯器,通過(guò)編譯器進(jìn)行復(fù)雜的多維混合并行策略的尋優(yōu),把算法和模型自動(dòng)切分到集群上去執(zhí)行,既大大降低了大模型的開(kāi)發(fā)門(mén)檻,又保證了多種并行策略的靈活組合使用。
總結(jié)
整體而言,在人工智能體系中,深度學(xué)習(xí)框架處于貫通上下的腰部位置,下接芯片、上承應(yīng)用,是一個(gè)關(guān)鍵樞紐,是推動(dòng)AI應(yīng)用大規(guī)模落地的關(guān)鍵力量。因此對(duì)于企業(yè)來(lái)說(shuō),克服深度學(xué)習(xí)框架當(dāng)前面臨的挑戰(zhàn),不斷進(jìn)行技術(shù)創(chuàng)新,完善技術(shù)、功能和生態(tài)是關(guān)鍵。
-
操作系統(tǒng)
+關(guān)注
關(guān)注
37文章
7152瀏覽量
125595 -
AI
+關(guān)注
關(guān)注
88文章
35164瀏覽量
279998 -
推理
+關(guān)注
關(guān)注
0文章
8瀏覽量
7349
發(fā)布評(píng)論請(qǐng)先 登錄
嵌入式AI技術(shù)之深度學(xué)習(xí):數(shù)據(jù)樣本預(yù)處理過(guò)程中使用合適的特征變換對(duì)深度學(xué)習(xí)的意義
軍事應(yīng)用中深度學(xué)習(xí)的挑戰(zhàn)與機(jī)遇
深度學(xué)習(xí)中RNN的優(yōu)勢(shì)與挑戰(zhàn)
NPU在深度學(xué)習(xí)中的應(yīng)用
國(guó)產(chǎn)大模型發(fā)展的經(jīng)驗(yàn)與教訓(xùn)

GPU深度學(xué)習(xí)應(yīng)用案例
AI大模型與深度學(xué)習(xí)的關(guān)系
大算力芯片面臨的技術(shù)挑戰(zhàn)和解決策略
ADS856x SAR驅(qū)動(dòng)電路的設(shè)計(jì)挑戰(zhàn)和改進(jìn)技術(shù)

FPGA做深度學(xué)習(xí)能走多遠(yuǎn)?
MCT8316A-設(shè)計(jì)挑戰(zhàn)和解決方案應(yīng)用說(shuō)明

MCF8316A-設(shè)計(jì)挑戰(zhàn)和解決方案應(yīng)用說(shuō)明

TMCS110x 布局挑戰(zhàn)和最佳實(shí)踐

評(píng)論