由人工智能專家和計(jì)算機(jī)公司組成的聯(lián)盟MLPerf發(fā)布了一組新的機(jī)器學(xué)習(xí)記錄。這些記錄是在一系列衡量推理速度的基準(zhǔn)上設(shè)定的：一個(gè)已經(jīng)訓(xùn)練過的神經(jīng)網(wǎng)絡(luò)能多快地用新數(shù)據(jù)完成任務(wù)。手機(jī)和平板電腦的基準(zhǔn)測(cè)試首次受到質(zhì)疑。據(jù)MLPerf母公司執(zhí)行董事David Kanter透露，一款可下載的應(yīng)用程序正在研制中，它將允許任何人測(cè)試自己智能手機(jī)或平板電腦的人工智能能力。

MLPerf的目標(biāo)是提供一個(gè)公平和直接的方法來比較人工智能系統(tǒng)。包括戴爾、英特爾和英偉達(dá)在內(nèi)的23家機(jī)構(gòu)共提交了1200份調(diào)查結(jié)果，這些結(jié)果經(jīng)過了同行評(píng)審，并接受了隨機(jī)的第三方審計(jì)。（谷歌在這一輪明顯缺席。）正如去年夏天發(fā)布的培訓(xùn)人工智能的MLPerf記錄一樣，Nvidia是主導(dǎo)力量，在數(shù)據(jù)中心和邊緣計(jì)算系統(tǒng)的所有六個(gè)類別中都超過了競(jìng)爭(zhēng)對(duì)手。包括思科（Cisco）和富士通（Fujitsu）等合作伙伴提交的報(bào)告，該公司的數(shù)據(jù)顯示，共有1029份報(bào)告使用了Nvidia芯片，占edge和數(shù)據(jù)中心類別總數(shù)的85%。

“Nvidia在每項(xiàng)測(cè)試中都表現(xiàn)出色，”Nvidia加速計(jì)算產(chǎn)品管理高級(jí)總監(jiān)Paresh Kharaya說。Nvidia的A100 GPU為其在數(shù)據(jù)中心領(lǐng)域的勝利提供了動(dòng)力，而其Xavier則是GPU制造商在邊緣計(jì)算領(lǐng)域取得勝利的幕后推手。根據(jù)Kharaya的說法，在新的MLPerf基準(zhǔn)之一深度學(xué)習(xí)推薦模型（Deep Learning Recommendation Mode，DLRM）中，一個(gè)DGX A100系統(tǒng)相當(dāng)于1000個(gè)基于CPU的服務(wù)器。

今年引入了四個(gè)新的推斷基準(zhǔn)，加上上一輪遺留下來的兩個(gè)：

BERT，是一個(gè)由Google貢獻(xiàn)的自然語言處理人工智能。給出一個(gè)問題輸入，BERT預(yù)測(cè)一個(gè)合適的答案。

DLRM，是一個(gè)經(jīng)過訓(xùn)練優(yōu)化點(diǎn)擊率的推薦系統(tǒng)。它用于推薦網(wǎng)上購物的商品，并對(duì)搜索結(jié)果和社交媒體內(nèi)容進(jìn)行排名。Facebook是DLRM代碼的主要貢獻(xiàn)者。

3D U-Net，在醫(yī)學(xué)成像系統(tǒng)中被用來判斷MRI掃描中哪些3D體素是腫瘤的一部分，哪些是健康組織。它是根據(jù)腦瘤數(shù)據(jù)集訓(xùn)練的。

RNN-T，是一種用于遞歸神經(jīng)網(wǎng)絡(luò)傳感器的語音識(shí)別模型。給定一個(gè)語音輸入序列，它預(yù)測(cè)相應(yīng)的文本。

除了這些新指標(biāo)之外，MLPerf還為移動(dòng)設(shè)備制定了第一套基準(zhǔn)測(cè)試，這些基準(zhǔn)用于測(cè)試聯(lián)發(fā)科（MediaTek）、高通（Qualcomm）和三星（Samsung）的智能手機(jī)和平板電腦平臺(tái)，以及英特爾（Intel）的筆記本電腦。新的基準(zhǔn)包括：

MobileNetEdgeTPU，一個(gè)圖像分類基準(zhǔn)，被認(rèn)為是計(jì)算機(jī)視覺中最普遍的任務(wù)。它代表了一個(gè)照片應(yīng)用程序如何能夠識(shí)別出你或你朋友的臉。

SSD-MobileNetV2，用于MobileNetV2的單次多盒檢測(cè)，經(jīng)過訓(xùn)練可在300x300分辨率的輸入幀中檢測(cè)80種不同的對(duì)象類別。在視頻中實(shí)時(shí)跟蹤和識(shí)別物體。

DeepLabv3+MobileNetV2，這是用來理解虛擬現(xiàn)實(shí)和導(dǎo)航等場(chǎng)景的，它在計(jì)算攝影應(yīng)用程序中扮演著重要角色。

MobileBERT，是自然語言處理BERT模型的一個(gè)更大的移動(dòng)優(yōu)化變體，它針對(duì)問題回答進(jìn)行了微調(diào)。給定一個(gè)問題輸入，MobileBERT生成一個(gè)答案。

Image: NVIDIANvidia’s A100 swept the board in AI inferencing tasks where the data was available all at once (offline) or delivered as it would be in online (server).

Kanter稱，這些基準(zhǔn)測(cè)試是在一個(gè)專門構(gòu)建的應(yīng)用程序上運(yùn)行的，每個(gè)人都應(yīng)該在幾個(gè)月內(nèi)就可以使用。

近日公布的結(jié)果被稱為0.7版本，目前該組織仍在加大力度完善內(nèi)容。1.0版本可能在2021年完成。

責(zé)任編輯：xj

原文標(biāo)題：NVIDIA再次打破MLPerf基準(zhǔn)測(cè)試的性能記錄

文章出處：【微信公眾號(hào)：IEEE電氣電子工程師學(xué)會(huì)】歡迎添加關(guān)注！文章轉(zhuǎn)載請(qǐng)注明出處。