“不可思議”的GPU集群賦能Autopilot系統(tǒng)及全自動(dòng)駕駛的AI開發(fā)工作。

為了應(yīng)對這項(xiàng)有史以來最大的計(jì)算挑戰(zhàn)之一，特斯拉需要配備前所未有的算力。

在本周的CVPR（國際計(jì)算機(jī)視覺與模式識別會(huì)議）上，汽車制造商特斯拉的AI高級總監(jiān)Andrej Karpathy公布了公司內(nèi)部用于訓(xùn)練Autopilot與自動(dòng)駕駛深度神經(jīng)網(wǎng)絡(luò)的超級計(jì)算機(jī)。這個(gè)集群使用了720個(gè)節(jié)點(diǎn)的8個(gè)NVIDIA A100 Tensor Core GPU（共5760個(gè)GPU），實(shí)現(xiàn)了1.8 exaflops級別的超強(qiáng)性能。

Karpathy表示：“這是一臺性能卓越的超級計(jì)算機(jī)，以FLOPS計(jì)，它大概可以在全球超級計(jì)算機(jī)中排到第5位”。

通過將汽車行業(yè)前所未有的算力作為其研發(fā)周期的核心，特斯拉讓其自動(dòng)駕駛汽車工程師能夠使用前沿技術(shù)來高效完成工作。

NVIDIA A100 GPU為全球最強(qiáng)的數(shù)據(jù)中心提供各種尺度的加速。A100 GPU基于NVIDIA Ampere架構(gòu)打造，其性能比上一代產(chǎn)品高出20倍，并且可以劃分成7個(gè)GPU實(shí)例，動(dòng)態(tài)地適配不同的需求。

使用100多萬輛在路上行駛的Tesla汽車（的數(shù)據(jù)）來持續(xù)優(yōu)化和迭代新功能，是Tesla自動(dòng)駕駛的垂直整合之道，而GPU集群在其中扮演了重要角色。

從汽車到數(shù)據(jù)中心

特斯拉的數(shù)據(jù)循環(huán)始于汽車?！坝白幽Ｊ健痹诓粚?shí)際控制車輛的情況下，悄無聲息地執(zhí)行著感知和預(yù)測深度神經(jīng)網(wǎng)絡(luò)（DNN）。

任何錯(cuò)誤預(yù)測、誤識別都會(huì)被記錄下來。隨后，這些實(shí)例會(huì)被特斯拉工程師所用，來創(chuàng)建/擴(kuò)充一個(gè)包含多種復(fù)雜場景的訓(xùn)練數(shù)據(jù)集，以完善DNN。

當(dāng)前已經(jīng)收集了100萬個(gè)以每秒36幀的速度記錄的10秒片段，總數(shù)據(jù)量高達(dá)1.5PB。在數(shù)據(jù)中心，DNN基于這些場景被反復(fù)訓(xùn)練直到性能可接受。最后，DNN被發(fā)送回車內(nèi)，并開始下一輪（數(shù)據(jù)）循環(huán)。

Karpathy表示，以這種方式在如此大量的數(shù)據(jù)上訓(xùn)練DNN需要龐大的計(jì)算能力，特斯拉為此建立并部署了內(nèi)置高性能A100 GPU的最新一代超級計(jì)算機(jī)。

連續(xù)迭代

除了全方位的訓(xùn)練之外，特斯拉的超級計(jì)算機(jī)還為自動(dòng)駕駛汽車工程師提供了在開發(fā)過程中進(jìn)行實(shí)驗(yàn)和迭代所需的性能。

Karpathy表示，特斯拉目前部署的DNN結(jié)構(gòu)可以讓一個(gè)由20名工程師組成的團(tuán)隊(duì)同時(shí)在一個(gè)網(wǎng)絡(luò)上工作，通過隔離不同功能來實(shí)現(xiàn)并行開發(fā)。

這些DNN運(yùn)行訓(xùn)練數(shù)據(jù)集的速度會(huì)比之前快速迭代時(shí)還更快。

Karpathy表示：“計(jì)算機(jī)視覺是我們一切工作的基礎(chǔ)，并且也是實(shí)現(xiàn)Autopilot的關(guān)鍵。為此，我們必須訓(xùn)練一個(gè)龐大的神經(jīng)網(wǎng)絡(luò)并進(jìn)行大量實(shí)驗(yàn)。這也是我們在算力方面投入大量資金的原因?！?/p>

歡迎自動(dòng)駕駛領(lǐng)域的各位有志之士加入NVIDIA Developer Program，復(fù)制鏈接“https://developer.nvidia.com/login”在瀏覽器中打開即可注冊（請?jiān)贗ndustry Segment注冊選項(xiàng)中選擇Automotive）。

編輯：jq