6月22日，2020國(guó)際超算大會(huì)（ISC2020）期間，最新的TOP500超級(jí)計(jì)算機(jī)榜單發(fā)布。這份榜單展現(xiàn)了全球現(xiàn)代科學(xué)計(jì)算的整體情況，而引人注意的是，排名前十的超級(jí)計(jì)算機(jī)中有8臺(tái)采用了NVIDIA的技術(shù)；TOP500榜單的所有系統(tǒng)中，有三分之二的系統(tǒng)（333套）由NVIDIA助力。

而不僅是當(dāng)前產(chǎn)品和技術(shù)層面的大范圍覆蓋，NVIDIA正在推動(dòng)數(shù)據(jù)分析、模擬、可視化、邊緣串流、AI、云技術(shù)在現(xiàn)代科學(xué)計(jì)算中的應(yīng)用，來(lái)應(yīng)對(duì)當(dāng)今和未來(lái)的挑戰(zhàn)。

英偉達(dá)超算江湖地位再度刷新

Top500榜單每年更新兩次，這份最新的榜單顯示，全球排名前十的超級(jí)計(jì)算機(jī)中有8臺(tái)采用了NVIDIA GPU、InfiniBand網(wǎng)絡(luò)技術(shù)，或同時(shí)采用了兩種技術(shù)。其中包括美國(guó)、歐洲和中國(guó)最強(qiáng)大的超級(jí)計(jì)算機(jī)系統(tǒng)。

在TOP500榜單的所有系統(tǒng)中，有三分之二的系統(tǒng)（333套）采用了NVIDIA（包括收購(gòu)的Mellanox）為其賦力。而在2017年6月發(fā)布的榜單上，采用兩家公司的系統(tǒng)占比總和還不到一半（203套）。

如今，榜單上有將近四分之三（74％）的全新InfiniBand系統(tǒng)采用了NVIDIA Mellanox HDR 200G InfiniBand，這也展現(xiàn)了這一智能高速數(shù)據(jù)互連技術(shù)的迅速普及。自2019年11月以來(lái)，榜單上使用HDR InfiniBand的TOP500系統(tǒng)數(shù)量幾乎增加了一倍。共有141臺(tái)超級(jí)計(jì)算機(jī)使用了InfiniBand，自2019年6月以來(lái)增長(zhǎng)了12％。

在TOP500超級(jí)計(jì)算機(jī)中，有305套系統(tǒng)使用了NVIDIA Mellanox InfiniBand和Ethernet網(wǎng)絡(luò)（占61％），包括所有141套InfiniBand系統(tǒng)和164套（占63％）使用Ethernet的系統(tǒng)。

TOP500榜單前25的超級(jí)計(jì)算機(jī)中有20臺(tái)系統(tǒng)都選擇采用NVIDIA GPU，為什么？能效是主要原因。如下圖所示，使用NVIDIA GPU的系統(tǒng)，與不使用NVIDIA GPU的系統(tǒng)相比，能效（以gigaflops/watt為單位）平均高出2.8倍。

4周構(gòu)建頂級(jí)超級(jí)計(jì)算機(jī)，每秒百億億次的AI算力！

TOP500和Green500榜單進(jìn)行排名的主要參考依據(jù)之一就是LinPack BenchMark性能基準(zhǔn)。在計(jì)算系統(tǒng)中，每瓦性能(GFloat/watts)是衡量特定計(jì)算機(jī)體系結(jié)構(gòu)或計(jì)算機(jī)硬件能效的量度。從字面上來(lái)說(shuō)，它衡量計(jì)算機(jī)可以為每瓦功耗消耗的計(jì)算速率。要指出的是，相比TOP500，Green500更加重視超算的能耗問(wèn)題，而不僅僅追求運(yùn)算速度。

NVIDIA內(nèi)部研究集群的新成員Selene，能夠充分證明NVIDIA GPU的能效表現(xiàn)。在Linpack基準(zhǔn)測(cè)試中，Selene以27.5petaflops的性能表現(xiàn)，在最新Green500榜單中排名第二，在整個(gè)TOP500榜單中排名第七。

Selene的功耗為20.5 gigaflops/watt，與Green500榜單上的第一名相差甚微，不過(guò)，排名第一的系統(tǒng)體積更小，其性能表現(xiàn)僅排在第394位。

這也意味著，Selene是排名前100系統(tǒng)中唯一突破20 gigaflops/watt能效表現(xiàn)大關(guān)的系統(tǒng)，同時(shí)也是全球性能排名第二的工業(yè)超級(jí)計(jì)算機(jī)，僅次于意大利能源巨頭Eni S.p.A.的No. 6 系統(tǒng)（同樣使用了NVIDIA GPU）。

在能效方面，相比于未使用NVIDIA GPU的其它TOP500系統(tǒng)的平均能效表現(xiàn)，Selene的能效高出了6.8倍。

據(jù)NVIDIA加速計(jì)算產(chǎn)品管理總監(jiān)Paresh Kharya介紹，除了能效表現(xiàn)，Selene另一個(gè)了不起的地方在于，它是一個(gè)只用了不到4周的時(shí)間就構(gòu)建完成的系統(tǒng)，由14套分別配置有20臺(tái)DGX A100系統(tǒng)的模塊相連接，Selene具有：280臺(tái)DGX A100系統(tǒng)、2240顆NVIDIA A100 GPU、494臺(tái)NVIDIA Mellanox Quantum 200G InfiniBand交換機(jī)、56 TB/s的網(wǎng)絡(luò)架構(gòu)、7PB的高性能全閃存。

Selene最重要的性能規(guī)格之一是可以提供超過(guò)1 exaflops的AI性能。此外，在TPCx-BB關(guān)鍵數(shù)據(jù)分析基準(zhǔn)測(cè)試中，僅使用了16臺(tái)DGX A100系統(tǒng)就創(chuàng)造了新紀(jì)錄，性能表現(xiàn)高出其他系統(tǒng)20倍。

如今，AI和分析已成為科學(xué)計(jì)算中的新需求，因此這些結(jié)果也顯得格外重要。在全球各地，研究者正在使用深度學(xué)習(xí)和數(shù)據(jù)分析預(yù)測(cè)各種最具潛力的領(lǐng)域，并進(jìn)而開(kāi)展實(shí)驗(yàn)。這一方法能夠幫助研究者減少成本高昂且費(fèi)時(shí)的實(shí)驗(yàn)量，從而加快取得科學(xué)成果的速度。

A100按下HPC和AI融合的快進(jìn)鍵

在把GPU做“大”這件事上，A100就像是一個(gè)大型核反應(yīng)堆。從2016年的P100，到2020年的A100，性能提升9倍之多。黃仁勛上個(gè)月從家中烤箱中端出的“世界上最大的顯卡”DGX A100就是其杰作之一，而最新發(fā)布的Selene更是進(jìn)一步論證了它的“恐怖”之處。

根據(jù)今年GTC上黃仁勛的發(fā)布，A100 Tensor Core的一大創(chuàng)新之處就是引入了TensorFloat-32（TF32）來(lái)加速FP32運(yùn)算，TF32結(jié)合了FP32的動(dòng)態(tài)范圍和FP16的精度。據(jù)稱(chēng)在HPC的線(xiàn)性動(dòng)力學(xué)場(chǎng)景中可以獲得4倍的性能提升，并在單精度訓(xùn)練中達(dá)到5倍的性能?？傊谌鶷ensor Core核心可以為傳統(tǒng)的64位數(shù)學(xué)模擬及精度較低的AI工作提供加速。

HPC和AI的融合，就像被NVIDIA按下快進(jìn)鍵，AI、數(shù)據(jù)科學(xué)和科學(xué)計(jì)算交融的新時(shí)代在風(fēng)馳電掣般趕來(lái)。

目前，全球頂尖供應(yīng)商預(yù)計(jì)將發(fā)布超過(guò)50款內(nèi)置A100的服務(wù)器，其中包括：華碩、Atos、思科、Dell Technologies、富士通、技嘉科技、HPE、浪潮、聯(lián)想、One Stop Systems、Quanta/QCT和Supermicro。

這些服務(wù)器的上市時(shí)間各不相同，預(yù)計(jì)今年夏天將有30款系統(tǒng)上市，到年底將再有20多款系統(tǒng)上市。

據(jù)了解，目前并未出現(xiàn)在此次TOP500榜單中的6臺(tái)在建系統(tǒng)，也都采用了A100 GPU。

軟硬件結(jié)合樹(shù)立大數(shù)據(jù)分析新標(biāo)桿

如今領(lǐng)先的企業(yè)機(jī)構(gòu)都在使用AI獲得生產(chǎn)力和先進(jìn)洞見(jiàn)。

TPCx-BB是用于實(shí)際ETL（提取、轉(zhuǎn)換、加載）和機(jī)器學(xué)習(xí)工作流程的企業(yè)大數(shù)據(jù)基準(zhǔn)測(cè)試。該基準(zhǔn)測(cè)試的30個(gè)查詢(xún)項(xiàng)目包含多種大數(shù)據(jù)分析用例，例如庫(kù)存管理、價(jià)格分析、銷(xiāo)售分析、推薦系統(tǒng)、客戶(hù)細(xì)分和情緒分析。

過(guò)去，這項(xiàng)基準(zhǔn)測(cè)試一直只在CPU系統(tǒng)上運(yùn)行。分布式計(jì)算系統(tǒng)雖然在穩(wěn)步改進(jìn)，但是運(yùn)行如此大的數(shù)據(jù)工作負(fù)載仍會(huì)遇到瓶頸。NVIDIA通過(guò)RAPIDS軟件生態(tài)系統(tǒng)和DGX A100系統(tǒng)，以19.5倍TPCx-BB性能打破紀(jì)錄，樹(shù)立了大數(shù)據(jù)分析的新標(biāo)桿。

在這一基準(zhǔn)測(cè)試中，采用RAPIDS開(kāi)源數(shù)據(jù)科學(xué)軟件庫(kù)套件，并使用由16臺(tái)NVIDIA DGX A100系統(tǒng)組成的集群，NVIDIA用時(shí)14.5分鐘就完成了基準(zhǔn)測(cè)試，而此前在CPU系統(tǒng)上運(yùn)行的記錄是4.7小時(shí)。該DGX A100集群系統(tǒng)共配置了128塊NVIDIA A100 GPU，并配有NVIDIA Mellanox網(wǎng)絡(luò)功能。這一軟硬結(jié)合的系統(tǒng)可加速計(jì)算、通信、網(wǎng)絡(luò)和存儲(chǔ)基礎(chǔ)設(shè)施。

RAPIDS在16臺(tái)DGX A100系統(tǒng)上運(yùn)行，為每個(gè)10TB測(cè)試查詢(xún)提供上述相對(duì)性能提升。與傳統(tǒng)上使用CPU的方案相比，RAPIDS和DGX A100系統(tǒng)的成本是其1/7，功耗是其1/3。

此外，NVIDIA通過(guò)與開(kāi)源社區(qū)合作，為Apache Spark 3.0帶來(lái)端到端的GPU加速，能夠?yàn)殛P(guān)鍵且耗時(shí)的機(jī)器學(xué)習(xí)處理流程前端提供支持。

AI模型訓(xùn)練將能夠在相同的 Spark集群上進(jìn)行處理，而不是將工作負(fù)載作為單獨(dú)的流程在單獨(dú)的基礎(chǔ)架構(gòu)上運(yùn)行。這樣就可以對(duì)整個(gè)數(shù)據(jù)科學(xué)的處理流程進(jìn)行高性能數(shù)據(jù)分析，對(duì)從數(shù)據(jù)湖到模型訓(xùn)練所涉及的數(shù)十、乃至數(shù)千TB的數(shù)據(jù)進(jìn)行加速，而且無(wú)需對(duì)已被應(yīng)用于本地和云端 Spark 應(yīng)用程序的現(xiàn)有代碼進(jìn)行修改。

收購(gòu)Mellanox所獲增益大舉浮現(xiàn)

NVIDIA在超算這一尖端領(lǐng)域攻城掠地的大舉擴(kuò)張，也與Mellanox的貢獻(xiàn)密不可分，這也再次驗(yàn)證了這筆收購(gòu)的戰(zhàn)略眼光。其產(chǎn)品線(xiàn)與NVIDIA極具互補(bǔ)性，通過(guò)Mellanox的InfiniBand、以太網(wǎng)等技術(shù)，NVIDIA擁有了更強(qiáng)的網(wǎng)絡(luò)服務(wù)和云端能力，形成了更為強(qiáng)大的整體解決方案能力。

此次TOP500的榜單顯示，InfiniBand為排名前10的超級(jí)計(jì)算機(jī)中的7臺(tái)提速，其中包括中國(guó)、歐洲和美國(guó)性能最強(qiáng)大的系統(tǒng)。

據(jù)了解，InfiniBand的設(shè)計(jì)基于四項(xiàng)基本原則：可以運(yùn)行所有網(wǎng)絡(luò)引擎的智能端點(diǎn)設(shè)計(jì)；為擴(kuò)展設(shè)計(jì)的軟件定義交換網(wǎng)絡(luò)；可以對(duì)網(wǎng)絡(luò)進(jìn)行一站式控制和操作的集中式管理；以及確保正向和反向兼容并支持開(kāi)源技術(shù)和開(kāi)放API的標(biāo)準(zhǔn)技術(shù)。

正是這些基本原則幫助InfiniBand實(shí)現(xiàn)了高網(wǎng)絡(luò)性能、低延遲和高速信息收發(fā)。作為目前市面上唯一的200Gb/s高速互連產(chǎn)品，InfiniBand通過(guò)端對(duì)端自適應(yīng)路由、擁塞控制和服務(wù)質(zhì)量實(shí)現(xiàn)高網(wǎng)絡(luò)效率。

除了高質(zhì)量、高效的網(wǎng)絡(luò)，數(shù)據(jù)中心的停機(jī)所帶來(lái)的成本損失也不容忽略。根據(jù)ITIC的研究，停機(jī)1小時(shí)所造成的成本損失通常在30萬(wàn)美元以上。為了盡可能避免超算數(shù)據(jù)中心停機(jī)所帶來(lái)的損失，NVIDIA推出了最新的UFM Cyber-AI平臺(tái)。據(jù)了解，UFM平臺(tái)產(chǎn)品系列已管理InfiniBand系統(tǒng)近十年，此次擴(kuò)展將使用AI通過(guò)實(shí)時(shí)和歷史遙測(cè)及工作負(fù)載數(shù)據(jù)，來(lái)學(xué)習(xí)數(shù)據(jù)中心的運(yùn)行節(jié)奏和網(wǎng)絡(luò)工作負(fù)載模式。從而根據(jù)這一基準(zhǔn)，追蹤系統(tǒng)的運(yùn)行狀況和網(wǎng)絡(luò)修改并檢測(cè)性能下降、使用情況和配置文件更改。

據(jù)NVIDIA Mellanox網(wǎng)絡(luò)事業(yè)部高級(jí)營(yíng)銷(xiāo)副總裁Gilad Shainer介紹，該平臺(tái)能夠確定數(shù)據(jù)中心的獨(dú)特生命體征，并通過(guò)它們識(shí)別性能下降、組件故障和異常使用方式，從而使系統(tǒng)管理員快速檢測(cè)和響應(yīng)潛在的安全威脅并解決即將發(fā)生的故障。

InfiniBand已成為氣候研究和天氣預(yù)報(bào)應(yīng)用的實(shí)際標(biāo)準(zhǔn)。全球許多氣象服務(wù)機(jī)構(gòu)都已選擇了NVIDIA Mellanox InfiniBand網(wǎng)絡(luò)，來(lái)加速其超級(jí)計(jì)算平臺(tái)，例如西班牙氣象局、中國(guó)氣象局、芬蘭氣象局、NASA和荷蘭皇家氣象局。

北京市氣象臺(tái)選擇了200 Gigabit HDR InfiniBand互連技術(shù)，來(lái)加速超級(jí)計(jì)算平臺(tái)。該平臺(tái)將被用于增強(qiáng)天氣預(yù)報(bào)、改進(jìn)氣候和環(huán)境研究，并將被用于2022年北京冬季奧運(yùn)會(huì)的天氣預(yù)報(bào)。

由于氣象和氣候模型都是計(jì)算和數(shù)據(jù)密集型模型，預(yù)測(cè)質(zhì)量通常取決于模型的復(fù)雜性和高分辨率，其中分辨率取決于超級(jí)計(jì)算機(jī)的性能，而超級(jí)計(jì)算機(jī)的性能又取決于互連技術(shù)是否能夠在各計(jì)算資源之間快速、有效并且以可擴(kuò)展的方式移動(dòng)數(shù)據(jù)。

天氣預(yù)報(bào)，正在成為被超算改變的一個(gè)新領(lǐng)域。而NVIDIA A100 GPU和Mellanox HDR InfiniBand網(wǎng)絡(luò)技術(shù)所掀起的超算風(fēng)暴，絕不僅止于此。

加速計(jì)算正在被重新定義

由于疫情的原因，今年的超算大會(huì)對(duì)于COVID-19相關(guān)技術(shù)和方案也給予了更多的重視。

NVIDIA科學(xué)計(jì)算平臺(tái)所發(fā)揮的作用，也使加速計(jì)算的未來(lái)呈現(xiàn)出了更多的可能性。從數(shù)據(jù)分析到模擬和可視化再到AI與邊緣處理，其平臺(tái)為各個(gè)領(lǐng)域的方法提供加速。

AI、數(shù)據(jù)分析和邊緣串流正在重新定義科學(xué)計(jì)算。隨著向深度學(xué)習(xí)和分析的擴(kuò)展，科學(xué)家們也在運(yùn)用云計(jì)算服務(wù)，甚至運(yùn)用來(lái)自于網(wǎng)絡(luò)邊緣的遠(yuǎn)程儀器的流式數(shù)據(jù)，這些要素共同構(gòu)成了NVIDIA所加速的科學(xué)計(jì)算支柱。

除了前文著墨較多的一些進(jìn)展之外，幾個(gè)前沿的案例很值得關(guān)注和思考：

模擬方面，在抗擊新冠病毒的過(guò)程中，橡樹(shù)嶺國(guó)家實(shí)驗(yàn)室（Oak Ridge National Laboratory）的研究者使用Summit超級(jí)計(jì)算機(jī)的內(nèi)置GPU運(yùn)行AutoDock，在24小時(shí)內(nèi)模擬了20億種化合物。
科學(xué)邊緣串流方面，歐洲核子研究所（CERN）最近宣布，NVIDIA GPU將使其大型強(qiáng)子對(duì)撞機(jī)內(nèi)粒子碰撞事件產(chǎn)生的數(shù)據(jù)量減少500倍。

可視化方面，NVIDIA的IndeX和Magnum IO軟件幫助增強(qiáng)火星登陸者號(hào)的可視化功能，這是全球規(guī)模最大的交互式實(shí)時(shí)立體可視化項(xiàng)目。

NVIDIA方面表示，最新的TOP500榜單以另一種方式說(shuō)明了NVIDIA為實(shí)現(xiàn)AI和HPC民主化所付出的努力。而不論是研究者還是企業(yè)，都迫切需要從云到網(wǎng)絡(luò)邊緣的AI和分析加速。

為科學(xué)計(jì)算提供端對(duì)端的工作流程，采取完整的創(chuàng)新策略來(lái)加速所有關(guān)鍵應(yīng)用領(lǐng)域，這是NVIDIA在加速計(jì)算領(lǐng)域的兩大成功秘笈。

本文由電子發(fā)燒友網(wǎng)原創(chuàng)，未經(jīng)授權(quán)禁止轉(zhuǎn)載。如需轉(zhuǎn)載，請(qǐng)?zhí)砑游?a target="_blank">信號(hào)elecfans999.