在 “萬(wàn)物互聯(lián)” 時(shí)代，人工智能成為新一輪產(chǎn)業(yè)革命的引擎。與此同時(shí)，智能逐漸成為新熱點(diǎn)，新賣點(diǎn)，以滿足客戶的新需求。人工智能推動(dòng)了互聯(lián)網(wǎng)新形態(tài)的變化。

在這次 GTC 上來自 NVIDIA 和合作伙伴的技術(shù)專家將帶來互聯(lián)網(wǎng)領(lǐng)域人工智能軟件的新進(jìn)展。

眾所周知，推薦系統(tǒng)在新時(shí)代的互聯(lián)網(wǎng)環(huán)境下已然出現(xiàn)在我們生活的各個(gè)角落，我們刷視頻、在網(wǎng)上買東西、使用社交軟件都離不開推薦系統(tǒng)的推薦。推薦系統(tǒng)也是目前互聯(lián)網(wǎng)的增長(zhǎng)引擎。根據(jù)麥肯錫的報(bào)道，有超過 35% 的亞馬遜購(gòu)買和超過 75% 的 Netflix 觀看，而這些其實(shí)都是基于推薦系統(tǒng)相關(guān)的算法而產(chǎn)生的。推薦系統(tǒng)的推薦質(zhì)量可以直接影響公司收入，可能 0.1% 的推薦準(zhǔn)確度都會(huì)影響可能上億的收入。

隨著短視頻 APP、視頻會(huì)議平臺(tái)以及 VR/AR 等技術(shù)的發(fā)展，視頻與圖像已逐漸成為全球互聯(lián)網(wǎng)流量的主要組成部分。我們平時(shí)接觸到的這些視頻圖像，也有很多是被 AI 和計(jì)算機(jī)視覺（CV）算法處理并增強(qiáng)過的。然而，隨著社交媒體和視頻分享服務(wù)的快速增長(zhǎng)，作為 AI 圖像算法基礎(chǔ)的視頻圖像處理部分，也早已成為計(jì)算流程中不可忽視的成本和瓶頸，那么基于 GPU 的的圖像處理應(yīng)運(yùn)而生。

ChatGPT 的出現(xiàn)驚喜了很多人，大語(yǔ)言模型（LLM）的熱度也水漲船高。LLM 代表著 AI 領(lǐng)域的重大進(jìn)步，并有望通過習(xí)得的知識(shí)改變?cè)擃I(lǐng)域。在過去幾年中，LLM 的規(guī)模每年增加 10 倍，而且隨著這些模型的復(fù)雜程度和規(guī)模的增加，其性能也在不斷發(fā)展，但是如何開發(fā)和維護(hù) LLM 其實(shí)并非易事。同時(shí)，如何快速高效部署 AI 應(yīng)用，如何對(duì)企業(yè)的 AI 應(yīng)用進(jìn)行高效統(tǒng)一的管理，實(shí)現(xiàn)流程的自動(dòng)化等都是擺在互聯(lián)網(wǎng)企業(yè)面前亟待解決的問題。

NVIDIA 借助自身在人工智能領(lǐng)域的經(jīng)驗(yàn)和積累，為了推動(dòng)數(shù)據(jù)科學(xué)和 AI 的發(fā)展，開發(fā)和推出了一系列軟件和 SDK，助力企業(yè)從云端、數(shù)據(jù)中心到邊緣都能優(yōu)化其基于 GPU 的系統(tǒng)。

在 3 月 20-23 日舉行的 GTC 2023 春季大會(huì)上，NVIDIA 攜手阿里巴巴、百度、快手、騰訊、Roblox、ControlExpert 等合作伙伴，集中展示了當(dāng)下熱門應(yīng)用的最新進(jìn)展，涵蓋 NVIDIA Merlin、LLM、Triton 推理服務(wù)器、CV-CUDA、AI Enterprise 等多個(gè)領(lǐng)域應(yīng)用。

掃描二維碼免費(fèi)注冊(cè)

預(yù)約觀看互聯(lián)網(wǎng)應(yīng)用精彩演講

以下為 11 個(gè)演講的詳細(xì)介紹：

1. Merlin 應(yīng)用框架

NVIDIA Merlin 是推薦系統(tǒng)的助推器，它為企業(yè)用戶提供了一個(gè)全鏈路的方案，能夠提高訓(xùn)練和推理速度，幫助各種類型的企業(yè)更好地利用數(shù)據(jù)，構(gòu)建由 NVIDIA GPU 加速的推薦系統(tǒng)。改進(jìn)推薦將有助于提高點(diǎn)擊率、購(gòu)買率和滿意度。

Merlin 相關(guān)演講推薦：

//

DeepRec：面向推薦場(chǎng)景的高性能深度學(xué)習(xí)框架

會(huì)議代碼：[S51544]

演講時(shí)間：3 月 23 日 3:00 PM

DeepRec 支持了淘寶搜索、猜你喜歡、定向、直通車等核心業(yè)務(wù)，支撐著千億特征、萬(wàn)億樣本超大規(guī)模的搜索、推薦、廣告場(chǎng)景的模型訓(xùn)練和推理。自 DeepRec 開源以來，已有數(shù)十家互聯(lián)網(wǎng)公司將 DeepRec 應(yīng)用在他們的搜推廣場(chǎng)景的業(yè)務(wù)中，取得了顯著的業(yè)務(wù)效果提升和性能提升。

DeepRec 中提供的功能和性能優(yōu)化主要分三個(gè)方面：1. 模型效果方面；2. 訓(xùn)練和推理優(yōu)化方面；3. 模型部署方面。本次演講中，主要介紹 GPU 場(chǎng)景下，DeepRec 中多級(jí) Embedding 混合存儲(chǔ)功能，圖感知的內(nèi)存/顯存分配器，SessionGroup 中多 CUDA Stream 支持，基于Merlin SOK 的 GPU 同步訓(xùn)練，以及 Embedding 性能優(yōu)化 Group Embedding。

您可以在 github 上體驗(yàn) DeepRec：

https://github.com/alibaba/DeepRec

演講嘉賓：

劉童璇，阿里巴巴高級(jí)技術(shù)專家

劉仕杰，NVIDIA GPU 計(jì)算專家團(tuán)隊(duì)工程師

//

Merlin 的新發(fā)布：GPU 上輕松構(gòu)建和部署任何規(guī)模的推薦系統(tǒng)

會(huì)議代碼：[S51335]

演講時(shí)間：3 月 23 日 2:00 AM

本演講將介紹 NVIDIA Merlin 的進(jìn)展，這是 NVIDIA 用于構(gòu)建和部署任何規(guī)模的推薦系統(tǒng)的開源框架。本次分享將通過使用 Merlin 在 NVIDIA 構(gòu)建推薦系統(tǒng)的真實(shí)案例來說明 Merlin 的易用性，隨后深入探討 Merlin 加速推薦系統(tǒng)在 GPU 上性能的各種機(jī)制和底層庫(kù)，并且預(yù)覽了 Grace Hopper Superchip 架構(gòu)給推薦系統(tǒng)帶來的進(jìn)步。預(yù)約觀看本演講，了解如何在 GPU 上輕松構(gòu)建和部署任何規(guī)模的推薦模型。

您可以在 github 上體驗(yàn) Merlin：

https://github.com/NVIDIA-Merlin/Merlin

演講嘉賓：

高文雯，NVIDIA 高級(jí)產(chǎn)品經(jīng)理

Angel Martinez，NVIDIA 深度學(xué)習(xí)工程師

2. LLM

LLM 是一種深度學(xué)習(xí)算法，可以通過大規(guī)模數(shù)據(jù)集訓(xùn)練來學(xué)習(xí)識(shí)別、總結(jié)、翻譯、預(yù)測(cè)和生成文本及其他內(nèi)容。LLM 是 Transformer 模型最成功的應(yīng)用之一。除了加速翻譯軟件、聊天機(jī)器人、AI 助手等自然語(yǔ)言處理應(yīng)用之外，LLM 還在醫(yī)療、軟件開發(fā)等許多其他領(lǐng)域被使用。而近期 ChatGPT 的火爆，更是將 LLM 帶到了公眾視野。

LLM相關(guān)演講推薦：

//

飛槳深度學(xué)習(xí)平臺(tái)高效支持大模型生產(chǎn)及應(yīng)用

會(huì)議代碼：[S52366]

演講時(shí)間：3 月 22 日即可在線觀看

源于百度業(yè)務(wù)對(duì)人工智能技術(shù)的廣泛應(yīng)用，飛槳深度學(xué)習(xí)平臺(tái)結(jié)合應(yīng)用持續(xù)創(chuàng)新，研發(fā)了業(yè)界領(lǐng)先的大規(guī)模分布式訓(xùn)練技術(shù)。飛槳先后發(fā)布了 4D 混合并行訓(xùn)練、端到端自適應(yīng)分布式訓(xùn)練、超大規(guī)模圖訓(xùn)練引擎等核心技術(shù)，并基于這些技術(shù)支持文心大模型的訓(xùn)練和部署。目前，文心大模型已經(jīng)覆蓋基礎(chǔ)大模型、任務(wù)大模型、行業(yè)大模型的三級(jí)體系，飛槳+文心大模型賦能千行百業(yè)的智能化升級(jí)。

演講嘉賓：

馬艷軍，百度 AI 技術(shù)生態(tài)總經(jīng)理

//

多模態(tài)超大模型在短視頻場(chǎng)景落地應(yīng)用

會(huì)議代碼：[SE52361]

演講時(shí)間：3 月 22 日 3:00 PM

以 ChatGPT 為代表的大模型面世，帶來了 AI 大模型技術(shù)熱潮，研究表明，知識(shí)密集任務(wù)中越大的模型學(xué)習(xí)效率越高（相同訓(xùn)練數(shù)據(jù)量下，模型越大任務(wù)效果越好），主流大模型的參數(shù)大都超過了千億 (100B) 規(guī)模，同時(shí)也給模型的高效訓(xùn)練和推理部署帶來嚴(yán)峻挑戰(zhàn)?？焓謬@提高模型計(jì)算效率和可部署開展技術(shù)攻關(guān)，沉淀了一套通用的混合并行訓(xùn)練、壓縮、推理整體解決方案，并聯(lián)合業(yè)務(wù)實(shí)現(xiàn)百億參數(shù) Dense 模型和千億參數(shù) MOE 大模型落地，取得顯著業(yè)務(wù)收益。

演講嘉賓：

張勝卓，快手算法引擎專家

韓青長(zhǎng)，快手算法引擎工程師

李杰，快手算法引擎工程師

門春雷，快手算法引擎專家

3. Triton 推理服務(wù)器

NVIDIA Triton 推理服務(wù)器是 NVIDIA 推出的一款開源軟件，可簡(jiǎn)化部署深度學(xué)習(xí)模型的過程。對(duì)于所有推理模式，都可以簡(jiǎn)化模型在任一框架中以及任何 GPU 或 CPU 上的運(yùn)行方式，從而在生產(chǎn)環(huán)境中使用 AI。Triton 可提供高吞吐量的數(shù)據(jù)中心推理，以實(shí)現(xiàn) GPU 使用率的最大化，對(duì)行業(yè)產(chǎn)生巨大價(jià)值。

Triton 相關(guān)演講推薦：

//

云端 AI 推理加速：一種跨平臺(tái)和框架透明的方式

會(huì)議代碼：[S52332]

演講時(shí)間：3 月 22 日即可在線觀看

從產(chǎn)品推薦到自動(dòng)駕駛汽車再到在線聊天機(jī)器人，AI 在我們的日常生活中變得越來越普及?？紤]到 AI 應(yīng)用程序的廣泛應(yīng)用，AI 推理很可能會(huì)在云端的不同硬件目標(biāo)上運(yùn)行。這種硬件異構(gòu)性引發(fā)了軟件層面的挑戰(zhàn)，尤其是當(dāng)開發(fā)人員經(jīng)常發(fā)現(xiàn)自己使用獨(dú)立的軟件棧在不同的硬件目標(biāo)上開發(fā)推理應(yīng)用程序時(shí)?；诖?，騰訊計(jì)算加速套件 TACO Infer 旨在讓所有開發(fā)人員，無論其 AI 開發(fā)經(jīng)驗(yàn)如何，都可以使用他們選擇的模型、框架和硬件后端來加速深度學(xué)習(xí)推理。TACO Infer 提供了一個(gè)跨平臺(tái)的統(tǒng)一優(yōu)化接口，對(duì)深度學(xué)習(xí)框架透明，如 TensorFlow 或 PyTorch。TACO Infer 的可擴(kuò)展設(shè)計(jì)，還有助于在針對(duì)不同設(shè)備時(shí)，可集成第三方和社區(qū)開源軟件。

演講嘉賓：

葉帆，騰訊云異構(gòu)計(jì)算專家級(jí)工程師、異構(gòu)研發(fā)負(fù)責(zé)人

//

為元宇宙的發(fā)展大力普及機(jī)器學(xué)習(xí)推理

會(huì)議代碼：[S51948]

演講時(shí)間：3 月 22 日 2:00 AM

本場(chǎng)演講將帶您了解 Roblox ML 平臺(tái)推理服務(wù)。您將了解如何將 Triton 推理服務(wù)與 Kubelow 和Kserve 集成。本場(chǎng)演講將分享 Roblox 如何簡(jiǎn)化最終用戶的部署，以便為 CPU 和 GPU 上的模型提供服務(wù)。最后，將重點(diǎn)介紹 Roblox 目前的幾個(gè)案例，如游戲推薦和其他計(jì)算機(jī)視覺（CV）模型。

演講嘉賓：

Denis Goupil，Roblox 首席機(jī)器學(xué)習(xí)工程師

4. CV-CUDA

CV-CUDA （Computer Vision – Compute Unified Device Architecture）高性能圖像處理加速庫(kù)，是一個(gè)開源項(xiàng)目，可在 AI 成像和 CV 流程中通過 GPU 加速構(gòu)建高效的預(yù)處理和后處理步驟，可以更快、更高效地大規(guī)模處理圖像。CV-CUDA 前期由 NVIDIA 和字節(jié)跳動(dòng)的機(jī)器學(xué)習(xí)團(tuán)隊(duì)聯(lián)合開發(fā)。如果想試試更快、更好用的視覺預(yù)處理庫(kù)，可以試試這一開源工具（GitHub：https://github.com/CVCUDA/CV-CUDA 下載和試用）。

CV-CUDA 相關(guān)演講推薦：

//

使用 NVIDIA DeepStream 的自定義 GPU 驅(qū)動(dòng)插件推進(jìn) AI 應(yīng)用

會(huì)議代碼：[S51612]

演講時(shí)間：3 月 21 日 2:00 AM

使用創(chuàng)新（且易于訪問）的工具，如用于圖像處理的 NVIDIA DeepStream SDK 和 CV-CUDA，釋放計(jì)算機(jī)視覺的力量。有了這些強(qiáng)大的工具，開發(fā)人員可以快速創(chuàng)建高度精確的定制實(shí)時(shí)AI解決方案。本場(chǎng)演講將展示近期宣布的 CV-CUDA（可供早期訪問），這是一個(gè)開源項(xiàng)目，能夠使用 GPU 處理構(gòu)建高效的云規(guī)模 AI 成像和 CV 應(yīng)用程序。本場(chǎng)演講將逐步演示如何使用 CV-CUDA 為 DeepStream 構(gòu)建自定義插件，從而加速構(gòu)建端到端視覺 AI 管道。

演講嘉賓：

Alvin Clark，NVIDIA 資深解決方案架構(gòu)師

//

克服基于 AI 的成像和計(jì)算機(jī)視覺管道中的前處理和后處理瓶頸

會(huì)議代碼：[S51182]

演講時(shí)間：3 月 23 日 9:00 PM

本演講將介紹如何訪問并部署計(jì)算機(jī)視覺 kernels，以加速整個(gè)基于云的管道的構(gòu)建。

演講嘉賓：

Rodolfo Lima，NVIDIA CV-CUDA 資深工程師

5. NVIDIA AI Enterprise

NVIDIA AI Enterprise 是一套全面的云原生 AI 和數(shù)據(jù)分析軟件套件，為使企業(yè)能夠在熟悉的基礎(chǔ)設(shè)施上使用 AI ，而做了專門的優(yōu)化。這套軟件可以部署在任何地方，包括從企業(yè)數(shù)據(jù)中心到公有云，并且為保證 AI 項(xiàng)目在各地的正常運(yùn)行，對(duì)全球企業(yè)均可提供支持。近期，NVIDIA 還推出了 AI Enterprise 3.0 新版本，擴(kuò)大了對(duì) NVIDIA NGC 軟件目錄中 50 多個(gè) NVIDIA AI 軟件框架和預(yù)訓(xùn)練模型的支持，大幅推動(dòng)并簡(jiǎn)化全球范圍內(nèi)眾多機(jī)構(gòu)的 AI 部署工作。

NVIDIA AI Enterprise 相關(guān)演講推薦：

//

如何構(gòu)建一個(gè)集成混合和多云數(shù)據(jù)中心的人工智能平臺(tái)

會(huì)議代碼：[S51395]

演講時(shí)間：3 月 22 日 5:00 AM

AI 應(yīng)用和機(jī)器學(xué)習(xí)應(yīng)用已成為主流，幾乎是每家公司競(jìng)爭(zhēng)戰(zhàn)略的核心。企業(yè)面臨的一個(gè)最嚴(yán)峻的挑戰(zhàn)，是分布在云和本地?cái)?shù)據(jù)中心上一個(gè)個(gè)孤立的基礎(chǔ)設(shè)施。人工智能要求它們的環(huán)境作為一個(gè)公共平臺(tái)來管理，而不是計(jì)算孤島。企業(yè) AI 工作負(fù)載需要靈活性，以便跨混合云進(jìn)行移植，無論是在公共云中開發(fā)，還是在數(shù)據(jù)中心的 prem 上部署，或是多個(gè)云的組合。了解統(tǒng)一的 NVIDIA AI 平臺(tái)如何鏈接混合和多云環(huán)境，從而幫助企業(yè)用戶節(jié)省成本，并加快 AI 應(yīng)用程序的上市時(shí)間。

演講嘉賓：

Charu Chaubai，NVIDIA 產(chǎn)品市場(chǎng)經(jīng)理

Christi DeCuir，NVIDIA 云產(chǎn)品 GTM 總監(jiān)

//

AI 實(shí)用指南：從試點(diǎn)走向生產(chǎn)

會(huì)議代碼：[S51391]

演講時(shí)間：3 月 23 日 11:00 PM

我們正在進(jìn)入 AI 應(yīng)用的新階段。企業(yè)正在從 AI 的試點(diǎn)和實(shí)驗(yàn)轉(zhuǎn)向全面生產(chǎn)和規(guī)?；?，以推動(dòng)成本節(jié)約和新的收入模式。如果要充分發(fā)揮這些任務(wù)關(guān)鍵型 AI 應(yīng)用的潛力，并推動(dòng)有意義的業(yè)務(wù)價(jià)值，這需要一種全新的思路，以確保這些 AI 應(yīng)用的可靠性、安全性和可擴(kuò)展性。NVIDIA AI Enterprise 能夠幫助企業(yè)用戶無縫過渡到生產(chǎn)人工智能。預(yù)約觀看本演講，了解最佳實(shí)踐、經(jīng)驗(yàn)教訓(xùn)與常見錯(cuò)誤。

演講嘉賓：

Anne Hecht，NVIDIA 企業(yè)市場(chǎng)產(chǎn)品資深產(chǎn)品總監(jiān)

David Nixon，Carilion Clinic 技術(shù)服務(wù)組系統(tǒng)工程師

Andreas Witte，ControlExpert 董事總經(jīng)理

//

在端到端人工智能世界中實(shí)現(xiàn)組織可持續(xù)性和成功最大化的三種策略

會(huì)議代碼：[S51933]

演講時(shí)間：3 月 22 日 3:00 AM

AI 是我們這個(gè)時(shí)代最強(qiáng)大的技術(shù)力量，但采用 AI 可能會(huì)給任何致力于可持續(xù)發(fā)展并關(guān)注氣候變化、能源效率和減少浪費(fèi)的領(lǐng)導(dǎo)者帶來困擾。幸運(yùn)的是，我們有可能制定一條路線，在最大限度地減少（甚至減少）能源和材料使用、提高生產(chǎn)力、加深對(duì)決策和運(yùn)營(yíng)的理解和控制的同時(shí)，實(shí)現(xiàn)使用 AI 的最大效益。本場(chǎng)演講將描述 AI 的三種可持續(xù)性策略。了解技術(shù)選擇如何影響能源和材料的使用，如何在追求 AI 的過程中提高生產(chǎn)力和靈活性，其中技術(shù)杠桿可以加快上市時(shí)間，同時(shí)降低成本和工作量，以及 AI 支持的建模和模擬如何增強(qiáng)決策和運(yùn)營(yíng)，從而助力您的組織能夠在履行可持續(xù)性承諾的同時(shí)茁壯成長(zhǎng)。

演講嘉賓：

Steve Oberlin，NVIDIA 加速計(jì)算 CTO

如何預(yù)約和注冊(cè)

想要預(yù)約以上精彩內(nèi)容？掃描海報(bào)二維碼 或 點(diǎn)擊 “閱讀原文”，打開 GTC 2023 互聯(lián)網(wǎng)應(yīng)用精選會(huì)議 專題頁(yè)面，按照會(huì)議代碼或標(biāo)題，找到對(duì)應(yīng)演講。通過點(diǎn)擊 “Add to Schedule” 或 “星星” ，將該演講內(nèi)容添加至您的日程，大會(huì)開始后登錄即可在線觀看。

進(jìn)入 互聯(lián)網(wǎng)應(yīng)用精選會(huì)議 專題頁(yè)面。

按照 會(huì)議代碼 或者 演講標(biāo)題，找到感興趣的內(nèi)容，點(diǎn)擊 “Add to Schedule”，添加至您的日程。

如無 “Add to Schedule” 按鈕，說明該演講為點(diǎn)播，從3月22日開始即可在線觀看，點(diǎn)擊右上方的 星星，將該演講添加至您的日程。

如點(diǎn)擊 “Add to Schedule” 或 星星 時(shí)，出現(xiàn)如下界面。

如果您已注冊(cè)，請(qǐng)點(diǎn)擊 “Login” 登錄，激活賬戶，繼續(xù)操作；

如果您尚未注冊(cè)，請(qǐng)點(diǎn)擊 “Create Account”，詳情參看 GTC23 注冊(cè)教程。

掃描下方海報(bào)二維碼，即可免費(fèi)注冊(cè) GTC23，在 3 月 24 日 聽 OpenAI 聯(lián)合創(chuàng)始人與 NVIDIA 創(chuàng)始人的爐邊談話，將由 NVIDIA 專家主持，配中文講解和實(shí)時(shí)答疑，一起看 AI 的現(xiàn)狀和未來！