深度學(xué)習(xí)技術(shù)正廣泛應(yīng)用于人工智能的各個領(lǐng)域，如計算機視覺、機器翻譯、自然語言處理、智能機器人等，取得了前所未有的突破。當(dāng)前，一方面，隨著深度學(xué)習(xí)新技術(shù)的出現(xiàn)、任務(wù)復(fù)雜度的提高，易于擴展同時保持高效的架構(gòu)成為發(fā)展趨勢；另一方面，我國人工智能產(chǎn)業(yè)發(fā)展迅速，急需構(gòu)建自己的開源深度學(xué)習(xí)生態(tài)。

清華大學(xué)計算機系胡事民教授研究團(tuán)隊提出了一個全新的深度學(xué)習(xí)框架——計圖（Jittor）。Jittor是一個采用元算子表達(dá)神經(jīng)網(wǎng)絡(luò)計算單元、完全基于動態(tài)編譯（Just-in-Time）的深度學(xué)習(xí)框架。

圖1 “計圖”通過元算子融合實現(xiàn)深度神經(jīng)網(wǎng)絡(luò)模型

深度學(xué)習(xí)采用的卷積神經(jīng)網(wǎng)絡(luò)是由算子（Operator）組成的一個計算網(wǎng)絡(luò)。由于架構(gòu)設(shè)計和不斷擴充等原因，當(dāng)前深度學(xué)習(xí)框架有多達(dá)2000種算子，系統(tǒng)復(fù)雜，優(yōu)化和移植困難。Jittor則將算子運算進(jìn)一步分解，形成了更加底層的三類20余種元算子閉包，目前神經(jīng)網(wǎng)絡(luò)常用算子均可以使用元算子的組合進(jìn)行表達(dá)。面向未來深度學(xué)習(xí)框架的發(fā)展趨勢，Jittor利用元算子組合表達(dá)的優(yōu)勢，提出統(tǒng)一計算圖進(jìn)行優(yōu)化，并從底層開始設(shè)計了一個全新的動態(tài)編譯架構(gòu)。該架構(gòu)支持多種編譯器，實現(xiàn)了所有代碼的即時編譯和動態(tài)運行，確保了實現(xiàn)和優(yōu)化分離，大幅提升了應(yīng)用開發(fā)靈活性、可拓展性和可移植性。

圖2 “計圖”與其他平臺的計算圖特性對比

Jittor與國際主流平臺相比，具有多項先進(jìn)特性（圖2）。目前ResNet、VGG、SSD、DeepLab、LSGAN等多個網(wǎng)絡(luò)模型已經(jīng)在Jittor平臺實現(xiàn)，可供用戶使用。與同類型框架相比，Jittor在收斂精度一致情況下，推理速度取得了10%-50%的性能提升（圖3）。

圖3 Jittor和PyTorch推理與訓(xùn)練速度對比

Jittor的研發(fā)得到了國家自然科學(xué)基金創(chuàng)新群體項目、北京信息科學(xué)與技術(shù)國家研究中心團(tuán)隊項目和清華-騰訊聯(lián)合實驗室項目的資助。期望Jittor能為學(xué)界和業(yè)界提供一個靈活高效的深度學(xué)習(xí)平臺，促進(jìn)人工智能的研究和應(yīng)用，賦能人工智能產(chǎn)業(yè)。