NVIDIA創(chuàng)始人兼首席執(zhí)行官黃仁勛在近日召開(kāi)的臺(tái)北GTC上發(fā)布了HGX-2，這是一個(gè)“構(gòu)建模塊”云服務(wù)器平臺(tái)，讓服務(wù)器制造商能夠圍繞NVIDIA GPU創(chuàng)建更強(qiáng)大的系統(tǒng)，實(shí)現(xiàn)高性能計(jì)算和人工智能。該平臺(tái)的性能在五年內(nèi)增長(zhǎng)了500倍，并得到了包括所有計(jì)算機(jī)制造商和ISV在內(nèi)的生態(tài)系統(tǒng)的支持。

黃仁勛表示，計(jì)算系統(tǒng)將為全球范圍內(nèi)數(shù)萬(wàn)億美元的產(chǎn)業(yè)帶來(lái)改變，而GPU在計(jì)算生態(tài)系統(tǒng)中處于核心位置。他認(rèn)為想要實(shí)現(xiàn)在材料科學(xué)、能源和醫(yī)學(xué)等方面的一系列突破，都有賴于更高的計(jì)算能力。

“計(jì)算需求之大前所未有，我們需要擴(kuò)展摩爾定律，”黃仁勛表示。

性能飆升

黃仁勛詳述了基于GPU的深度學(xué)習(xí)驅(qū)動(dòng)的技術(shù)“寒武紀(jì)大爆炸”。在不到十年的時(shí)間內(nèi)，GPU計(jì)算能力增長(zhǎng)了20倍，即每年增長(zhǎng)1.7倍，遠(yuǎn)超摩爾定律。

但由于AI的發(fā)展，我們對(duì)性能的需求還在“增長(zhǎng)（而沒(méi)有放緩）”?！霸诖酥埃浖怯扇祟惥帉懙?，軟件工程師只能編寫有限的軟件，但機(jī)器不會(huì)感到疲憊?！?/p>

“只要有數(shù)據(jù)，只要知道如何創(chuàng)建架構(gòu)，我們就能夠打造強(qiáng)大的軟件，”黃仁勛如是說(shuō)?！叭蛎總€(gè)開(kāi)發(fā)軟件的公司都需要一臺(tái)AI超級(jí)計(jì)算機(jī)?！?/p>

推出全新服務(wù)器

NVIDIA HGX-2融合了NVIDIA NVSwitch互聯(lián)結(jié)構(gòu)等突破性功能，將16個(gè)NVIDIA Tesla V100 Tensor Core GPU無(wú)縫連接為單一“巨型GPU”。NVIDIA的合作伙伴將于今年晚些時(shí)候推出首批基于HGX-2的系統(tǒng)。

“有了與你們的合作，任何人都可以使用這種未來(lái)融合型計(jì)算方式實(shí)現(xiàn)高性能計(jì)算和AI應(yīng)用的創(chuàng)建，”黃仁勛對(duì)整個(gè)計(jì)算機(jī)行業(yè)中合作伙伴的支持表示了感謝?！拔覀冇懈鞣N服務(wù)器。”

行業(yè)合作伙伴廣泛采用NVIDIA的服務(wù)器平臺(tái)

大無(wú)止境

HGX-2的核心是NVIDIA Tesla V100 GPU，它配備了32GB高帶寬內(nèi)存容量，可提供每秒125萬(wàn)億次浮點(diǎn)計(jì)算的深度學(xué)習(xí)性能。

通過(guò)NVSwitch將多達(dá)16個(gè)Tesla V100 GPU連接在一起，造就了黃仁勛口中“全球最大的GPU”。

“每個(gè)GPU都能同時(shí)以300GB/s的帶寬、10倍的PCI Express與其他GPU進(jìn)行通信，”黃仁勛介紹說(shuō)。“也就是說(shuō)所有GPU彼此之間都能同時(shí)對(duì)話。”

黃仁勛還詳細(xì)介紹了新款NVIDIA DGX-2，這是首款使用HGX-2服務(wù)器平臺(tái)構(gòu)建的系統(tǒng)。它重達(dá)350磅，可提供每秒2千萬(wàn)億次浮點(diǎn)計(jì)算能力和512GB HBM2內(nèi)存。

“這是有史以來(lái)創(chuàng)建的最快的單一計(jì)算機(jī)：一個(gè)操作系統(tǒng)、一個(gè)編程模型，你可以將它編程為一臺(tái)計(jì)算機(jī)，”黃仁勛說(shuō)道。“這就像是一臺(tái)個(gè)人電腦，不過(guò)速度相當(dāng)快。”

業(yè)界新法則

黃仁勛表示，DGX-2僅用六個(gè)月就實(shí)現(xiàn)了十倍于上一代計(jì)算性能的飛躍。在AlexNet圖像識(shí)別基準(zhǔn)測(cè)試中，相較于五年前基于一對(duì)NVIDIA GPU所達(dá)到的性能也實(shí)現(xiàn)了500倍的飛躍。

“業(yè)界已經(jīng)迎來(lái)了新的法則，”黃仁勛說(shuō)道。 “這個(gè)新的計(jì)算法則告訴我們：'如果你能夠做到，而且如果你愿意在整個(gè)堆棧中進(jìn)行優(yōu)化，實(shí)現(xiàn)性能提升的速度就會(huì)非?？?。'”

其結(jié)果就是：技術(shù)堆棧上下都涌現(xiàn)了一系列深度學(xué)習(xí)速度紀(jì)錄，從單芯片性能到龐大的數(shù)據(jù)中心系統(tǒng)。

NVIDIA為技術(shù)堆棧上下都提供了創(chuàng)紀(jì)錄的性能

NVIDIA GPU Cloud (NGC)擴(kuò)展了這種性能的可訪問(wèn)性。它讓研究人員不再受限于臺(tái)式機(jī)和服務(wù)器系統(tǒng)，而是能夠借力于由亞馬遜、谷歌、阿里巴巴和甲骨文等提供商提供的云系統(tǒng)。

“這一軟件的每一層都經(jīng)過(guò)調(diào)優(yōu)并通過(guò)了測(cè)試，”黃仁勛還補(bǔ)充說(shuō)，如今有2萬(wàn)家公司已經(jīng)下載了NGC。

真實(shí)世界的結(jié)果令人驚嘆。黃仁勛在場(chǎng)上與一位NVIDIA AI研究員一起，演示了實(shí)時(shí)移除照片中的細(xì)節(jié)，例如樹(shù)木或路燈。

牢記PLASTER原則

黃仁勛說(shuō)道，除了演示之外，要大規(guī)模地部署這樣的深度學(xué)習(xí)應(yīng)用，需要搞定七大挑戰(zhàn)：可編程性 (programmability)、延遲 (latency)、準(zhǔn)確性 (accuracy)、模型大小 (size)、吞吐量 (throughput)、能效 (energy efficiency)和學(xué)習(xí)頻率 (rate of learning)。用這七個(gè)單詞的英文首字母作為縮寫就是PLASTER。

黃仁勛解釋說(shuō)，推理并非易事。

擴(kuò)展能力將成為將新一代人工智能服務(wù)推向?qū)嶋H運(yùn)作的關(guān)鍵，這是一種稱為推理的過(guò)程，適用于語(yǔ)音合成與識(shí)別、圖像與視頻處理、以及推薦服務(wù)等等。

王者“KONG”

為展示這種擴(kuò)展能力，黃仁勛演示了一個(gè)令人驚嘆的花卉識(shí)別系統(tǒng)，基于一個(gè)CPU能達(dá)到的速度為每秒4張圖像，而采用一個(gè)GPU則能擴(kuò)展至每秒2500張圖像，最高還能達(dá)到這一速度的4倍，這要?dú)w功于通過(guò)Kubernetes為更多位于桌面、數(shù)據(jù)中心和云服務(wù)提供商快速添加更多GPU以提供支持的能力。

“我們稱之為NVIDIA GPU上的Kubernetes (Kubernetes on NVIDIA GPUs)，簡(jiǎn)稱KONG，”黃仁勛說(shuō)道。

借助Kubernetes，GPU計(jì)算能夠達(dá)到您所需的最大規(guī)模

“Kubernetes可謂超大規(guī)模的操作系統(tǒng)，”黃仁勛說(shuō)道?！叭绻憧纯凑麄€(gè)堆棧，從GPU到可以放入Docker和容器中、運(yùn)行于Kubernetes之上的所有API和庫(kù)，這一軟件堆棧如此復(fù)雜，數(shù)百名工程師數(shù)年來(lái)的工作就是圍繞著它?！?/p>

新GPU，新的市場(chǎng)

NVIDIA服務(wù)器將為價(jià)值數(shù)萬(wàn)億美元的行業(yè)提供超強(qiáng)的計(jì)算能力。

在價(jià)值2萬(wàn)億美元的娛樂(lè)行業(yè)，NVIDIA新推出的RTX技術(shù)可加速光線追蹤，提供電影級(jí)品質(zhì)的標(biāo)準(zhǔn)，再加上實(shí)時(shí)圖形技術(shù)和人工智能，將加速當(dāng)今基于CPU的傳統(tǒng)渲染農(nóng)場(chǎng)。

在價(jià)值7萬(wàn)億美元的醫(yī)療保健行業(yè)中，我們的Project Clara有望通過(guò)GPU計(jì)算來(lái)重新定義醫(yī)療成像，基于當(dāng)前的醫(yī)療儀器實(shí)現(xiàn)更高的保真度，或使用更少的射線來(lái)生成相同質(zhì)量的圖像（將掃描儀的射線量減少六分之一，就能安全地用于兒童）。

安全城市也代表了另一價(jià)值2萬(wàn)億美元的市場(chǎng)機(jī)會(huì)。

NVIDIA正致力于通過(guò)其端到端的DRIVE平臺(tái)解決交通運(yùn)輸領(lǐng)域的問(wèn)題。交通運(yùn)輸代表著另一價(jià)值10萬(wàn)億美元的市場(chǎng)?！拔磥?lái)一切能夠運(yùn)動(dòng)的事物都將是自動(dòng)化的，”黃仁勛詳細(xì)介紹了NVIDIA在收集和處理數(shù)據(jù)、訓(xùn)練模型、模擬數(shù)十億英里的駕駛、以及真正駕駛的能力。

“縮小”并瞬移到微型空間中

在演講尾聲，黃仁勛借助虛擬現(xiàn)實(shí)技術(shù)將我們的一位同事“縮小”并瞬移到了一輛微型車中，然后這位同事便開(kāi)著這輛車行駛于一座微型城市中。

也就是說(shuō)，有了這樣的技術(shù)，人類就能在虛擬空間中成為AI機(jī)器的后備力量，無(wú)論這些機(jī)器位于何處、大小如何。

“未來(lái)，您將能夠與機(jī)器人‘融為一體’，”黃仁勛對(duì)臺(tái)下2000多名開(kāi)發(fā)者、研究人員、政府官員和媒體說(shuō)道， “您將能夠?qū)崿F(xiàn)遠(yuǎn)程即席 (telepresence) ，到達(dá)任何想去的地方?！?/p>