通過(guò)內(nèi)置NVIDIA AI、HPC和圖形SDK等功能,NVIDIA 為Arm在高性能計(jì)算、云、邊緣和PC平臺(tái)在內(nèi)的生態(tài)系統(tǒng)帶來(lái)GPU和DPU加速
從手機(jī)、自動(dòng)駕駛汽車、邊緣系統(tǒng)到全球速度最快的超級(jí)計(jì)算機(jī)——日本的Fugaku,Arm已成為數(shù)十億臺(tái)設(shè)備的核心。
這種廣泛的系統(tǒng)得到了約1300萬(wàn)開(kāi)發(fā)者的支持。NVIDIA為這個(gè)充滿活力的社區(qū)帶來(lái)了自主開(kāi)發(fā)的擴(kuò)展工具集。
該工具集包括:
NVIDIA AI– 加速AI訓(xùn)練和推理的行業(yè)標(biāo)準(zhǔn)
NVIDIA RAPIDS– 一套可在GPU上運(yùn)行數(shù)據(jù)科學(xué)和分析的軟件庫(kù)
NVIDIA HPC SDK– 用于高性能計(jì)算的編譯器、庫(kù)和軟件工具
NVIDIA RTX– 提供光線追蹤和AI功能的圖形驅(qū)動(dòng)器
多年來(lái),NVIDIA一直將JetsonSoC中的Arm核心用于邊緣計(jì)算和自主機(jī)器。最近,又將該核心用在BlueField DPU等網(wǎng)絡(luò)產(chǎn)品中。
在合作伙伴和獨(dú)立軟件供應(yīng)商的支持下,BlueFieldDPU可加速并保護(hù)云、嵌入式和企業(yè)級(jí)應(yīng)用的網(wǎng)絡(luò)與存儲(chǔ)工作。
Arm是高能效計(jì)算領(lǐng)域的領(lǐng)導(dǎo)者,NVIDIA通過(guò)為其提供這些資源,從而增加客戶的選擇,并為Arm和NVIDIA合作伙伴在四個(gè)主要領(lǐng)域的發(fā)展提供更多機(jī)會(huì)。
NVIDIA對(duì)Arm的支持范圍:從超級(jí)計(jì)算機(jī)到個(gè)人和嵌入式系統(tǒng)
高性能計(jì)算的新方向
Arm正在通過(guò)可伸縮向量擴(kuò)展指令(SVE)擴(kuò)展其處理器技術(shù),從而滿足這一全球最大、性能最強(qiáng)的系統(tǒng)的需求。NVIDIA工程師已開(kāi)始為富士通A64FX(Fugaku內(nèi)置的處理器)中的SVE提供支持。
SVE是Arm Neoverse平臺(tái)用于數(shù)據(jù)中心計(jì)算和網(wǎng)絡(luò)的最新產(chǎn)品。其強(qiáng)大的模擬功能推動(dòng)了Fugaku的科學(xué)研究,并在TOP500全球性能最強(qiáng)大的計(jì)算機(jī)榜單上排名第一。
NVIDIA將幫助Arm合作伙伴和客戶為同時(shí)使用Neoverse CPU和NVIDIA GPU的系統(tǒng)生成經(jīng)過(guò)優(yōu)化的軟件。2019年6月,NVIDIA宣布了HPC計(jì)劃的最新舉措,該計(jì)劃旨在為NVIDIA用于Arm加速計(jì)算和 AI的CUDA軟件提供支持。
除了NVIDIA HPC SDK之外,用于HPC網(wǎng)絡(luò)主干NVIDIA Mellanox InfiniBand的軟件現(xiàn)已得到完整支持并部署在Arm服務(wù)器上。工程師們正在NVIDIA Magnum IO中擴(kuò)展對(duì)Arm的支持。 NVIDIA Magnum IO軟件用于實(shí)現(xiàn)多節(jié)點(diǎn)系統(tǒng)存儲(chǔ)和網(wǎng)絡(luò)性能的最大化。
云端游戲創(chuàng)造良機(jī)
在云計(jì)算領(lǐng)域,NVIDIA與Arm服務(wù)器SoC和OEM合作伙伴開(kāi)展了多個(gè)方面的合作。
例如,NVIDIA與Ampere Computing合作,將Mt. Jade服務(wù)器平臺(tái)擴(kuò)展至云游戲。基于Ampere Altra的系統(tǒng)包含兩個(gè)80核Arm SoC、四個(gè)NVIDIA T4 GPU和一個(gè)NVIDIA Mellanox BlueField-2 DPU。它們可以同時(shí)為128名游戲用戶提供服務(wù),為Android-in-Cloud服務(wù)提供流媒體服務(wù),這種服務(wù)受到中國(guó)越來(lái)越多的5G智能手機(jī)用戶的歡迎。
在NVIDIA的幫助下,Ampere Computing的Mt. Jade平臺(tái)正在開(kāi)拓云游戲新興市場(chǎng)
此外,NVIDIA工程師不斷在向Arm移植代碼,并開(kāi)發(fā)新的工具來(lái)優(yōu)化Arm服務(wù)器和用戶之間的云游戲編碼、渲染和串流傳輸方式。這些工具被技嘉科技、浪潮和緯穎等Arm服務(wù)器OEM合作伙伴所廣泛使用。
根據(jù)運(yùn)行其服務(wù)GeForce NOW所獲得的經(jīng)驗(yàn),NVIDIA了解到云游戲的潛力。
除游戲外,云服務(wù)供應(yīng)商還支持用于GPU加速的機(jī)器學(xué)習(xí)、存儲(chǔ)和其他應(yīng)用的Arm服務(wù)器。因此,NVIDIA為Arm服務(wù)器提供一系列GPU管理和監(jiān)控工具,包括可以在內(nèi)置Kubernetes的Arm上運(yùn)行Docker容器的NVIDIA容器工具集。
為每家公司提供企業(yè)級(jí)AI
企業(yè)網(wǎng)絡(luò)的邊緣是下一個(gè)重要的計(jì)算領(lǐng)域。NVIDIA EGX 邊緣AI平臺(tái)將支持包括Arm在內(nèi)的所有主要處理器架構(gòu)。
由于認(rèn)識(shí)到邊緣對(duì)高能效計(jì)算的需求,NVIDIA將Arm作為其各垂直市場(chǎng)加速計(jì)算和AI平臺(tái)的核心。通常,這些平臺(tái)將GPU與像Jetson等嵌入式模塊中的多核Arm CPU配對(duì)。
NVIDIA將這些模塊的定制版本與專用于醫(yī)療(Clara)、機(jī)器人(Isaac)、自動(dòng)駕駛汽車(DRIVE)等行業(yè)的開(kāi)發(fā)者套件配對(duì),為Arm軟件合作伙伴和SoC供應(yīng)商提供了大量實(shí)現(xiàn)企業(yè)AI的機(jī)會(huì)。
此外,如NVIDIA在收購(gòu)公告中指出,通過(guò)Arm提供的IP,隨著NVIDIA的擴(kuò)展它們將會(huì)變得越來(lái)越豐富。
未來(lái)的發(fā)展趨勢(shì)
多家供應(yīng)商的Windows PC和Chromebook已在Arm處理器上運(yùn)行,并且更多消費(fèi)級(jí)平臺(tái)正在加入其中,此舉推動(dòng)了未來(lái)個(gè)人系統(tǒng)的發(fā)展。
NVIDIA長(zhǎng)期以來(lái)使用GPU(包括Arm系統(tǒng))支持各種形狀和尺寸的PC,包括基于Arm的系統(tǒng)。最近的一項(xiàng)調(diào)查顯示,超過(guò)70%的游戲PC使用NVIDIA GPU。
未來(lái),具有豐富圖形和連接性、性能與當(dāng)今PC一樣強(qiáng)大且更加節(jié)能的AI加速的個(gè)人系統(tǒng)將迎來(lái)機(jī)遇。Arm生態(tài)系統(tǒng)可以在個(gè)人系統(tǒng)等各個(gè)市場(chǎng)中使用NVIDIA 參考設(shè)計(jì),就像當(dāng)前在醫(yī)療市場(chǎng)中使用的那樣。
構(gòu)建平臺(tái)的工具
得到NVIDIA大量工具支持的Arm處理器IP產(chǎn)品組合等先進(jìn)技術(shù)讓各種新的平臺(tái)成為可能。
用于Arm的CUDA工具包將NVIDIA GPU加速計(jì)算和AI功能引入Arm生態(tài)系統(tǒng)。通過(guò)CUDA,開(kāi)發(fā)者可以訪問(wèn)TensorRT進(jìn)行深度學(xué)習(xí)推理、訪問(wèn)DeepStream進(jìn)行視頻分析等。
NVIDIA提供一整套Nsight可視化開(kāi)發(fā)者工具,利用分析器、調(diào)試器等工具為Arm SoC和服務(wù)器提供支持。用戶可以通過(guò)NVIDIA的開(kāi)發(fā)者網(wǎng)站訪問(wèn)所有的工具、SDK和平臺(tái)。
NVIDIA已經(jīng)為Arm提供了十多年的支持,而這僅僅是個(gè)開(kāi)始。我們很高興能夠加入這個(gè)不斷擴(kuò)展的社區(qū),該社區(qū)為從智能卡、超級(jí)計(jì)算機(jī)到未來(lái)的各項(xiàng)技術(shù)提供了強(qiáng)大支持。
我們對(duì)未來(lái)設(shè)想了許多可能性,并且希望從Arm生態(tài)系統(tǒng)中的1300萬(wàn)開(kāi)發(fā)人員身上學(xué)到大量知識(shí)與經(jīng)驗(yàn)。
評(píng)論