電子發(fā)燒友網(wǎng)報道（文/李彎彎）前不久，毫末智行與火山引擎共同發(fā)布了中國自動駕駛行業(yè)最大的智算中心——毫末“雪湖·綠洲”（MANA OASIS）。據(jù)毫末智行CEO顧維灝介紹，MANA OASIS的算力高達67億億次/秒，存儲帶寬可達2T/秒，通信帶寬達到800G/秒，可以為自動駕駛技術(shù)的持續(xù)迭代提供充足動力。

不僅僅是自動駕駛車自身算力，智算中心也成為車企和自動駕駛公司競爭的焦點。眾所周知，自動駕駛行業(yè)的領(lǐng)軍企業(yè)特斯拉在幾年前就已經(jīng)建立自己的智算中心，并且還自研芯片以提升效率。國內(nèi)除了毫末智行，小鵬汽車在今年8月也宣布已經(jīng)建成自動駕駛智算中心。

多方面優(yōu)化，MANA OASIS訓(xùn)練效率提升100倍

結(jié)合自動駕駛近十年的發(fā)展歷史，毫末智行認為，可以將近十年的自動駕駛技術(shù)發(fā)展分成三個階段：最早的硬件驅(qū)動方式，可以稱為自動駕駛的1.0時代；最近幾年的軟件驅(qū)動方式，可稱之為自動駕駛的2.0時代；即將發(fā)生，并將持續(xù)發(fā)展的數(shù)據(jù)驅(qū)動方式，是自動駕駛的3.0時代。數(shù)據(jù)驅(qū)動也是自動駕駛發(fā)展公認的方向，而它對智算中心的要求很高。

因此毫末和火山引擎共同定制了一個屬于自動駕駛的智算中心。具體來看，在系統(tǒng)架構(gòu)方面，如下圖，左邊是高性能存儲，基于高性能并行文件系統(tǒng)VePFS，可以提供高達2T/s的讀取速度，并且支持百億級小文件高速讀寫。右邊是計算平臺，提供了充沛的算力，每臺服務(wù)器配置8個GPU卡，通過600G/s的雙向NVSwitch高速互聯(lián)，進行通信。服務(wù)器之間通過4張200G帶寬的RDMA網(wǎng)絡(luò)互聯(lián)，提供高達800G/s的網(wǎng)絡(luò)帶寬。

在數(shù)據(jù)管理上，為了充分發(fā)揮智算中心的價值，讓GPU持續(xù)飽和運行，毫末經(jīng)過2年多研發(fā)，建立了全套面向大規(guī)模AI訓(xùn)練的毫末文件系統(tǒng)。在采集端，把數(shù)據(jù)按照訓(xùn)練的要求，以4D Clip為單位組織文件形態(tài)；在傳輸端，基于毫末場景庫，對數(shù)據(jù)進行場景化分析，打上各類Tag，方便模型基于Tag從不同維度對數(shù)據(jù)進行采樣、分布統(tǒng)計、語料提?。辉谟?xùn)練端，基于分級存儲理念，把對象存儲、高性能、顯存充分整合，實現(xiàn)高容量與高性能并存。

最終實現(xiàn)了百P數(shù)據(jù)篩選速度提升10倍、百億小文件隨機讀寫延遲小于500us。在毫末文件系統(tǒng)的加持下，消除數(shù)據(jù)瓶頸，GPU利用率從60%提升到接近80%。

在MANA OASIS的訓(xùn)練加速上也做了大量優(yōu)化。大家都知道，transformer大模型的訓(xùn)練成本非常高，訓(xùn)練一個大模型有時成本高達幾千萬。毫末在此方向深入研究，借鑒了學(xué)術(shù)界最新的研究成果，基于Sparse MoE，可以根據(jù)計算特點，進行稀疏激活，提高計算效率，實現(xiàn)單機8卡就能訓(xùn)練百億參數(shù)大模型的效果。

毫末智算中心也實現(xiàn)了跨機共享expert的方法，完成千億參數(shù)規(guī)模大模型的訓(xùn)練，而且訓(xùn)練成本降低到百卡周級別。在此基礎(chǔ)上，毫末基于自己的業(yè)務(wù)特點，設(shè)計并實現(xiàn)了業(yè)界領(lǐng)先的多任務(wù)并行訓(xùn)練系統(tǒng)，能同時處理圖片、點云、結(jié)構(gòu)化文本等多種模態(tài)的信息，既保證了模型的稀疏性，又提升了計算效率。結(jié)合多方面的優(yōu)化，毫末智算中心的訓(xùn)練效率提升了100倍。

為何小鵬、特斯拉等車企要建立自己的智算中心

除了毫末智行，小鵬汽車、特斯拉等車企也已建設(shè)自己的智算中心。今年8月，小鵬汽車宣布在烏蘭察布建成當時中國最大的自動駕駛智算中心“扶搖”，用于自動駕駛模型訓(xùn)練?！胺鰮u”基于阿里云智能計算平臺，算力可達600PFLOPS（每秒浮點運算60億億次），將小鵬自動駕駛核心模型的訓(xùn)練速度提升了近170倍。

通過與阿里云合作，“扶搖”以更低成本實現(xiàn)了更強算力。具體來看，對GPU資源進行細粒度切分、調(diào)度，將GPU資源虛擬化利用率提高3倍，支持更多人同時在線開發(fā)，效率提升十倍以上。在通訊層面，端對端通信延遲降低80%至2微秒。

整體計算效率上，實現(xiàn)了算力的線性擴展。存儲吞吐比業(yè)界20GB/s的普遍水準提升了40倍，數(shù)據(jù)傳輸能力相當于從送快遞的微型面包車，換成了20多米長的40噸集裝箱重卡。此外，阿里云機器學(xué)習平臺PAI提供了模型訓(xùn)練部署、推理優(yōu)化等AI工程化工具，比開源框架訓(xùn)練性能提升30%以上。

“扶搖”支持小鵬自動駕駛核心模型的訓(xùn)練時長從7天，縮短至1小時內(nèi)，大幅提速近170倍。據(jù)介紹，“扶搖”正用于小鵬城市NGP輔助駕駛系統(tǒng)的算法模型訓(xùn)練。和高速道路相比，城市路段的交通狀況更為復(fù)雜，自動駕駛特殊場景的數(shù)據(jù)集規(guī)模增加了上百倍。

早幾年前，特斯拉就已經(jīng)建立了自己的AI計算中心——Dojo，總計使用了1.4萬個英偉達的GPU來訓(xùn)練AI模型。為了進一步提升效率，特斯拉在2021年發(fā)布了自研的AI加速芯片D1，25個D1封裝在一起組成一個訓(xùn)練模塊（Training tile），然后再將訓(xùn)練模塊組成一個機柜（Dojo ExaPOD）。在今年10月的AI Day上，特斯拉展示了自有AI計算中心的最新進展，用自研的D1芯片打造的計算設(shè)備能夠提升30%的模型訓(xùn)練效率。

可以看到，車企和自動駕駛公司自建智算中心，能夠在性能上進行多方面的優(yōu)化，提升效率。此外在成本上也會更有利，何小鵬此前談到，對于智能汽車公司來說，算力成本將會從今天的億元級別上升到將來的十億元級別。因此，如果持續(xù)使用公有云服務(wù)，邊際成本將會不斷上漲。如果自行組建智算中心，一次性投資約在數(shù)千萬到1億元以內(nèi)，長期來看性價比更高。