一、曠視宣布開(kāi)源深度學(xué)習(xí)框架“天元”

3月25日下午，曠視科技舉辦線上發(fā)布會(huì)，宣布開(kāi)源新一代AI生產(chǎn)力平臺(tái)Brain++的核心深度學(xué)習(xí)框架曠視天元（MegEngine）。

據(jù)了解，天元的前身是曠視內(nèi)部自用的算法訓(xùn)練推理引擎MegEngine，由曠視3名實(shí)習(xí)生在2013年啟動(dòng)研發(fā)，并與2014年正式完成上線。這款自研的深度學(xué)習(xí)框架支撐了曠視6年以來(lái)在國(guó)際AI競(jìng)賽的表現(xiàn)，以及公司產(chǎn)品和業(yè)務(wù)的落地，

二、天元框架采用推理一體化的機(jī)制

據(jù)介紹，在傳統(tǒng)深度學(xué)習(xí)研發(fā)中，產(chǎn)品從原型到生產(chǎn)部署往往需要分開(kāi)設(shè)計(jì)和調(diào)用訓(xùn)練框架和推理框架兩種框架，這就導(dǎo)致模型在訓(xùn)練和推理的轉(zhuǎn)換的過(guò)程中出現(xiàn)不明原因的性能或精度損失，需要開(kāi)發(fā)者手工進(jìn)行優(yōu)化，而算法在計(jì)算平臺(tái)部署的時(shí)候出現(xiàn)各種問(wèn)題也無(wú)法追溯。

天元框架避免了這樣的問(wèn)題，通過(guò)訓(xùn)練、推理一體化的機(jī)制省去模型轉(zhuǎn)換的過(guò)程，可直接將訓(xùn)練后的模型進(jìn)行推理，并保證跨設(shè)備的模型精度對(duì)齊，同時(shí)天元內(nèi)置自動(dòng)模型優(yōu)化、簡(jiǎn)化流程，減少因手工操作的機(jī)會(huì)，降低出錯(cuò)概率。

除此之外，天元配置了 Python 和 C++ 接口，支持動(dòng)態(tài)圖、靜態(tài)圖一鍵轉(zhuǎn)換和混合編程，可使用高級(jí)編程語(yǔ)言進(jìn)行圖優(yōu)化和圖編譯。在運(yùn)行時(shí)管理環(huán)節(jié)，天元具備執(zhí)行流與調(diào)度器，采用動(dòng)態(tài)、靜態(tài)內(nèi)存分配并存的方式，并通過(guò)自動(dòng)的亞線性內(nèi)存管理優(yōu)化器可以得到更好的內(nèi)存優(yōu)化效果；在底層設(shè)計(jì)上，天元的計(jì)算內(nèi)核兼容主流計(jì)算設(shè)備，且支持多機(jī)多卡和分布式訓(xùn)練。而為了解決模型復(fù)現(xiàn)困難的問(wèn)題，天元?jiǎng)t支持 PyTorch Module 導(dǎo)入，可針對(duì)計(jì)算機(jī)視覺(jué)任務(wù)進(jìn)行優(yōu)化。

目前，曠視已在中國(guó)新一代人工智能開(kāi)源開(kāi)放平臺(tái)OpenI啟智社區(qū)和開(kāi)源社區(qū) GitHub 上同步發(fā)布了天元 Alpha 版源代碼，開(kāi)發(fā)者也可以通過(guò)天元官方網(wǎng)站的在線深度學(xué)習(xí)工具免費(fèi)調(diào)用算力、獲取最新數(shù)據(jù)集和訓(xùn)練腳本，進(jìn)行簡(jiǎn)單訓(xùn)練和試用。

三、開(kāi)源MegEngine，逐步釋放Brain++生產(chǎn)力

在MegEngine框架基礎(chǔ)之上，曠視研究院還提出了“三位一體”概念，將數(shù)據(jù)和算力平臺(tái)融合，構(gòu)建了集“算法、數(shù)據(jù)和算力”于一體的AI生產(chǎn)力套件Brain++。

曠視Brain++本質(zhì)上是一個(gè)超級(jí)工具套件，初衷是降低人工智能的使用成本。唐文斌曾提到，希望Brain++能夠?yàn)檠邪l(fā)人員提供端到端的解決方案，提升大家的工作效率，不用再重復(fù)“造輪子”。

曠視做了這一一個(gè)類比：一個(gè)餐館的核心價(jià)值是為客人提供美味的菜品（就像AI產(chǎn)業(yè)的核心價(jià)值是提供專業(yè)可靠的AI解決方案），那么實(shí)現(xiàn)這個(gè)價(jià)值最重要的人則是大廚（開(kāi)發(fā)者）。小作坊里的廚師需要自己洗菜（數(shù)據(jù)清洗）、配菜（搭模型）、炒菜（訓(xùn)模型）、調(diào)火候和口味（調(diào)參數(shù)），一個(gè)中午也許只能為三桌客人提供菜品。而在現(xiàn)代化、自動(dòng)化中央廚房里工作的大廚，他將擁有標(biāo)準(zhǔn)化、流水線管理的配菜間和智能化的爐灶等套件工具，那么或許他一個(gè)人就可以搞定一棟樓菜品供應(yīng)。曠視Brain++就是希望為開(kāi)發(fā)者提供這樣一套“中央廚房”式的解決方案。

Brain++這個(gè)生產(chǎn)力套件最為核心的部分就是能夠批量生產(chǎn)算法的深度學(xué)習(xí)框架，曠視希望通過(guò)MegEngine的開(kāi)源，逐步將Brain++的生產(chǎn)力賦能給學(xué)術(shù)界和產(chǎn)業(yè)界的廣大開(kāi)發(fā)者。

三、開(kāi)源成為人工智能下一階段發(fā)展新趨勢(shì)

2012 年后，深度學(xué)習(xí)的發(fā)展帶動(dòng)人工智能進(jìn)入拐點(diǎn)，前者擁有高于傳統(tǒng)機(jī)器學(xué)習(xí)十倍、百倍的神經(jīng)網(wǎng)絡(luò)參數(shù)，在人工智能最先落地的語(yǔ)音識(shí)別、圖像識(shí)別領(lǐng)域，深度學(xué)習(xí)都是不可或缺的重要工具。商業(yè)落地中的數(shù)據(jù)反哺，也帶動(dòng)了算力、框架上的不斷升級(jí)。開(kāi)發(fā)者口中通用的深度學(xué)習(xí)開(kāi)源框架基本不出這幾種：TensorFlow、 PyTorch、Caffe、CNTK、ONNX 等，這背后又分別站著谷歌、Facebook、微軟等巨頭。

唐文斌在發(fā)布會(huì)上提到，技術(shù)信仰是曠視人的基因，相信技術(shù)的變革能夠改變世界。對(duì)于曠視來(lái)說(shuō)，自研的AI生產(chǎn)力套件已經(jīng)能夠滿足企業(yè)發(fā)展需要，但一個(gè)人的力量始終是有限的，一群人在一起才能創(chuàng)造奇跡。只有開(kāi)源才能讓更多優(yōu)秀的開(kāi)發(fā)者凝聚起來(lái)共享、共建、共贏，打破堅(jiān)硬的技術(shù)壁壘，碰撞激發(fā)出更多優(yōu)秀的代碼。

更重要的是，開(kāi)源是推進(jìn)技術(shù)實(shí)現(xiàn)產(chǎn)業(yè)發(fā)展的催化劑。AI要真正實(shí)現(xiàn)產(chǎn)業(yè)化、通用化，需要大規(guī)模部署AI能力，在數(shù)據(jù)、計(jì)算、部署場(chǎng)景、硬件解決方案上具備一系列“工業(yè)級(jí)”的基礎(chǔ)，但眼前本質(zhì)的問(wèn)題在于AI技術(shù)的基礎(chǔ)條件尚未成熟，曠視希望能夠通過(guò)開(kāi)源為AI產(chǎn)業(yè)基礎(chǔ)設(shè)施添磚加瓦。

人工智能算法從研發(fā)到部署是一套龐大的系統(tǒng)工程，深度學(xué)習(xí)框架作為通用性的底層支持平臺(tái)，可實(shí)現(xiàn)算法訓(xùn)練和模型部署的高效流程化和深度神經(jīng)網(wǎng)絡(luò)模型設(shè)計(jì)自動(dòng)化。在減少人員參與而不犧牲訓(xùn)練質(zhì)量的條件下，能夠大幅提高算法生產(chǎn)效率，對(duì)于人工智能技術(shù)及應(yīng)用研發(fā)人員的重要性不言而喻。