一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內(nèi)不再提示

Nvidia擴大了在MLPerf Benchmark上進行AI推理的領先優(yōu)勢

倩倩 ? 來源:文財網(wǎng) ? 作者:文財網(wǎng) ? 2020-10-24 09:17 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

Nvidia表示,已通過今年早些時候推出的A100 GPU芯片,擴大了在MLPerf Benchmark上進行AI推理的領先優(yōu)勢。Nvidia在第二版MLPerf Inference中贏得了針對數(shù)據(jù)中心和邊緣計算系統(tǒng)的六個應用程序測試中的每一個。這些測試是對最初的兩個計算機視覺基準測試的擴展-AI測試現(xiàn)在包括推薦系統(tǒng),自然語言理解,語音識別醫(yī)學成像。

行業(yè)觀察家Moor Insights&Strategy的HPC和機器學習高級分析師Karl Freund評論說,與Nvidia的展示一樣令人印象深刻,還應該注意,某些原本有望參加MLPerf競賽的公司卻沒有參加。。

弗洛伊德說:“英偉達在競爭激烈的競爭者中表現(xiàn)出色?!?與(Nvidia)V100(GPU)相比,他們的A100效果驚人,證明了其增強的Tensor核心架構的價值。我贊揚MLPerf添加了新的基準,這些基準越來越代表快速增長的推理機會,例如推薦引擎。

Freund說:“話說回來,競爭要么是因為客戶項目太忙,要么是他們的芯片還沒有準備好?!?“例如,SambaNova(人工智能系統(tǒng)平臺)宣布與LLNL建立新的合作伙伴關系,而英特爾Habana(可編程深度學習加速器)仍在醞釀中。如果我仍在芯片創(chuàng)業(yè)公司,我將等待運行MLPerf(一個昂貴的項目),直到我已經(jīng)獲得了一些燈塔客戶。

英偉達在其結(jié)果公告中表示,其A100的AI推理速度比CPU快237倍。

Nvidia加速計算部總經(jīng)理兼副總裁Ian Buck表示:“每個行業(yè)都在尋求更好的方式來應用AI提供新服務和發(fā)展業(yè)務,這是我們的轉(zhuǎn)折點?!?“我們?yōu)樵贛LPerf上實現(xiàn)這些結(jié)果而進行的工作使公司的AI性能達到了新的水平,從而改善了我們的日常生活?!?/p>

Nvidia表示,該公司及其合作伙伴使用Nvidia的加速平臺(包括Nvidia數(shù)據(jù)中心GPU,Edge AI加速器和Nvidia優(yōu)化的軟件)提交了MLPerf 0.7結(jié)果。Nvidia A100于今年早些時候推出,具有第三代Tensor內(nèi)核和多實例GPU技術,在ResNet-50測試中的領先優(yōu)勢得到了提高,比上一輪的CPU高出30倍,是6倍。該公司補充說,它的GPU在公共云中的AI推理能力首次超過了CPU,并表示Nvidia GPU上的云AI推理總能力每兩年增長約10倍。

責任編輯:lq

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • NVIDIA
    +關注

    關注

    14

    文章

    5309

    瀏覽量

    106355
  • 機器學習
    +關注

    關注

    66

    文章

    8502

    瀏覽量

    134589
  • GPU芯片
    +關注

    關注

    1

    文章

    305

    瀏覽量

    6197
  • MLPerf
    +關注

    關注

    0

    文章

    36

    瀏覽量

    821
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    信而泰×DeepSeek:AI推理引擎驅(qū)動網(wǎng)絡智能診斷邁向 “自愈”時代

    DeepSeek-R1:強大的AI推理引擎底座DeepSeek是由杭州深度求索人工智能基礎技術研究有限公司開發(fā)的新一代AI大模型。其核心優(yōu)勢在于強大的
    發(fā)表于 07-16 15:29

    華為AI WAN智算邊緣推理網(wǎng)絡中的關鍵優(yōu)勢

    WAN:智算邊緣推理網(wǎng)絡架構、實踐及產(chǎn)業(yè)進展”的演講,詳細闡述AI WAN智算邊緣推理網(wǎng)絡中的關鍵
    的頭像 發(fā)表于 04-09 09:53 ?462次閱讀

    英偉達GTC2025亮點:Oracle與NVIDIA合作助力企業(yè)加速代理式AI推理

    Oracle 數(shù)據(jù)庫與 NVIDIA AI 相集成,使企業(yè)能夠更輕松、快捷地采用代理式 AI Oracle 和 NVIDIA 宣布,NVIDIA
    的頭像 發(fā)表于 03-21 12:01 ?697次閱讀
    英偉達GTC2025亮點:Oracle與<b class='flag-5'>NVIDIA</b>合作助力企業(yè)加速代理式<b class='flag-5'>AI</b><b class='flag-5'>推理</b>

    英偉達GTC2025亮點:NVIDIA與行業(yè)領先存儲企業(yè)共同推出面向AI時代的新型企業(yè)基礎設施

    存儲提供商構建搭載 AI 查詢智能體的基礎設施,利用 NVIDIA 計算、網(wǎng)絡和軟件,針對復雜查詢進行推理并快速生成準確響應 NVIDIA
    的頭像 發(fā)表于 03-21 09:42 ?655次閱讀

    英偉達GTC25亮點:NVIDIA Blackwell Ultra 開啟 AI 推理新時代

    英偉達GTC25亮點:NVIDIA Blackwell Ultra 開啟 AI 推理新時代
    的頭像 發(fā)表于 03-20 15:35 ?723次閱讀

    英偉達GTC25亮點:NVIDIA Dynamo開源庫加速并擴展AI推理模型

    DeepSeek-R1 上的吞吐量提高了 30 倍 NVIDIA 發(fā)布開源推理軟件 NVIDIA Dynamo,旨在以高效率、低成本加速并擴展
    的頭像 發(fā)表于 03-20 15:03 ?645次閱讀

    Oracle 與 NVIDIA 合作助力企業(yè)加速代理式 AI 推理

    ——Oracle 和 NVIDIA 今日宣布,NVIDIA 加速計算和推理軟件與 Oracle 的 AI 基礎設施以及生成式 AI 服務首
    發(fā)表于 03-19 15:24 ?356次閱讀
    Oracle 與 <b class='flag-5'>NVIDIA</b> 合作助力企業(yè)加速代理式 <b class='flag-5'>AI</b> <b class='flag-5'>推理</b>

    NVIDIA 與行業(yè)領先的存儲企業(yè)共同推出面向 AI 時代的新型企業(yè)基礎設施

    存儲提供商構建搭載 AI 查詢智能體的基礎設施,利用 NVIDIA 計算、網(wǎng)絡和軟件,針對復雜查詢進行推理并快速生成準確響應 ? 美國加利福尼亞州圣何塞 —— GTC —— 太平洋時間
    發(fā)表于 03-19 10:11 ?244次閱讀
    <b class='flag-5'>NVIDIA</b> 與行業(yè)<b class='flag-5'>領先</b>的存儲企業(yè)共同推出面向 <b class='flag-5'>AI</b> 時代的新型企業(yè)基礎設施

    NVIDIA 推出開放推理 AI 模型系列,助力開發(fā)者和企業(yè)構建代理式 AI 平臺

    NVIDIA 后訓練的全新 Llama Nemotron 推理模型,為代理式 AI 提供業(yè)務就緒型基礎 埃森哲、Amdocs、Atlassian、Box、Cadence、CrowdStrike
    發(fā)表于 03-19 09:31 ?232次閱讀
    <b class='flag-5'>NVIDIA</b> 推出開放<b class='flag-5'>推理</b> <b class='flag-5'>AI</b> 模型系列,助力開發(fā)者和企業(yè)構建代理式 <b class='flag-5'>AI</b> 平臺

    無法GPU上運行ONNX模型的Benchmark_app怎么解決?

    CPU 和 GPU 上運行OpenVINO? 2023.0 Benchmark_app推斷的 ONNX 模型。 CPU 上推理成功,但在 GPU 上失敗。
    發(fā)表于 03-06 08:02

    使用NVIDIA推理平臺提高AI推理性能

    NVIDIA推理平臺提高了 AI 推理性能,為零售、電信等行業(yè)節(jié)省了數(shù)百萬美元。
    的頭像 發(fā)表于 02-08 09:59 ?713次閱讀
    使用<b class='flag-5'>NVIDIA</b><b class='flag-5'>推理</b>平臺提高<b class='flag-5'>AI</b><b class='flag-5'>推理</b>性能

    NVIDIA與合作伙伴推出代理式AI Blueprint

    開發(fā)者現(xiàn)在可以使用全新 NVIDIA AI Blueprint 構建和部署具備推理、規(guī)劃和行動能力的定制化 AI 智能體。這些藍圖囊括
    的頭像 發(fā)表于 01-09 11:08 ?665次閱讀

    FPGA和ASIC大模型推理加速中的應用

    隨著現(xiàn)在AI的快速發(fā)展,使用FPGA和ASIC進行推理加速的研究也越來越多,從目前的市場來說,有些公司已經(jīng)有專門做推理的ASIC,像Gro
    的頭像 發(fā)表于 10-29 14:12 ?2015次閱讀
    FPGA和ASIC<b class='flag-5'>在</b>大模型<b class='flag-5'>推理</b>加速中的應用

    NVIDIA助力麗蟾科技打造AI訓練與推理加速解決方案

    麗蟾科技通過 Leaper 資源管理平臺集成 NVIDIA AI Enterprise,為企業(yè)和科研機構提供一套高效、靈活的 AI 訓練與推理
    的頭像 發(fā)表于 10-27 10:03 ?817次閱讀
    <b class='flag-5'>NVIDIA</b>助力麗蟾科技打造<b class='flag-5'>AI</b>訓練與<b class='flag-5'>推理</b>加速解決方案

    英偉達推出全新NVIDIA AI Foundry服務和NVIDIA NIM推理微服務

    NVIDIA 宣布推出全新 NVIDIA AI Foundry 服務和 NVIDIA NIM 推理微服務,與同樣剛推出的 Llama 3.1
    的頭像 發(fā)表于 07-25 09:48 ?1060次閱讀