10 月 31 日 – 11 月 2 日，2023 云棲大會(huì)在杭州云棲小鎮(zhèn)圓滿舉辦，本屆大會(huì)以 “計(jì)算，為了無法計(jì)算的價(jià)值” 為主題，為開發(fā)者們呈現(xiàn)了一場(chǎng)精彩紛呈的云計(jì)算和 AI 技術(shù)盛會(huì)。

NVIDIA 在本屆大會(huì)也帶來了海量干貨與技術(shù)內(nèi)容：多維度解讀 AI 及大語言模型（LLM）開發(fā)和應(yīng)用的精彩演講、阿里云、螞蟻集團(tuán)的 LLM 應(yīng)用案例、NVIDIA 全棧 AI 和加速計(jì)算展區(qū)、開發(fā)者社區(qū)招募和 AI 體驗(yàn)、初創(chuàng)加速計(jì)劃和 NVIDIA 深度學(xué)習(xí)培訓(xùn)中心（DLI）福利…… 現(xiàn)在，就讓我們帶您一同回顧本次大會(huì)的高光時(shí)刻！

NVIDIA 精彩演講

高光時(shí)刻

01

AI 女性 “進(jìn)化論”：

追光而行、全力奔跑！

大會(huì)首日，NVIDIA 全球副總裁劉念寧在“無畏 · 無限” 新女性新機(jī)遇的聚合話題演講中，通過科技女性數(shù)據(jù)、AI 女性典范以及溫暖有愛的個(gè)人故事，將科技女性身上展現(xiàn)的她力量高度凝練為 “毅力” 、“彈力” 和“聚力” ，激勵(lì)科技女性們勇敢擁抱加速計(jì)算和生成式 AI 的全新時(shí)代。她的演講金句 “AI 的星辰大海，除了追光與奔跑，還有愛與生命”，收獲了現(xiàn)場(chǎng)觀眾的熱烈反響。

高光時(shí)刻

02

Networking for AI

NVIDIA 網(wǎng)絡(luò)與高性能計(jì)算高級(jí)副總裁 Gilad Shainer 也為大家?guī)砹司实难葜v分享。Gilad 從云（Cloud）、生成式 AI 云（Generative AI Cloud）以及 AI 工廠（AI Factories）三個(gè)角度展開，與在場(chǎng)觀眾一起探討了人工智能網(wǎng)絡(luò)的復(fù)雜性，闡述了正在發(fā)揮作用的各種技術(shù)及其對(duì)現(xiàn)代數(shù)據(jù)中心的影響，并針對(duì)網(wǎng)絡(luò)技術(shù)如何塑造人工智能格局的重要議題進(jìn)行了深入淺出地拆解剖析。

高光時(shí)刻

03

NVIDIA 聚合話題演講，群英云集！

11 月 1 日，來自 NVIDIA 和阿里云的資深技術(shù)專家，齊聚“NVIDIA 加速計(jì)算 創(chuàng)造生成式 AI 新時(shí)代”聚合話題演講，分享 LLM 的全棧 AI 開發(fā)方案及開發(fā)者工具和服務(wù)。

NVIDIA 解決方案架構(gòu)與工程總監(jiān)王淼、NVIDIA 解決方案架構(gòu)師翟健、NVIDIA 產(chǎn)品研發(fā)總監(jiān)周國峰、阿里云資深算法專家黃俊、阿里云高級(jí)技術(shù)專家張杰、NVIDIA 解決方案架構(gòu)師高慧怡、NVIDIA GPU 計(jì)算專家薛博陽、NVIDIA GPU 計(jì)算專家顏?zhàn)咏堋VIDIA GPU 性能架構(gòu)師樊士慶，依次發(fā)表精彩的專題演講。

<<<左右滑動(dòng)查看更多照片>>>

（以上照片按照演講順序排列）

NVIDIA 技術(shù)專家圍繞大語言模型（LLM）主題，分享了 NVIDIA 端到端的數(shù)據(jù)中心級(jí)全棧 AI 和加速計(jì)算解決方案和軟件全棧與行業(yè)解決方案更新概覽，介紹了 NVIDIA 最新發(fā)布的開源大型語言模型推理加速庫 TensorRT-LLM 的產(chǎn)品定位、基本功能和使用方法，全新 GPU 架構(gòu)下的重要特性 FP8 訓(xùn)練與推理和相應(yīng)軟件解決方案 Transformer Engine，以及 NVIDIA Megatron Core 對(duì)下一代大規(guī)模 LLM / MoE 訓(xùn)練的支持。同時(shí)，阿里云的技術(shù)專家也分享了阿里云人工智能平臺(tái) PAI (Platform of AI) 團(tuán)隊(duì)研發(fā)的 Pai-Megatron-Patch，以 NVIDIA Megatron-LM 為核心開發(fā)的靈駿集群訓(xùn)練 LLM 的一站式工具箱，以及其自主研發(fā)的大規(guī)模模型 RLHF 高效訓(xùn)練框架 PAI-ChatLearn 的架構(gòu)、性能，和如何基于 Megatron 進(jìn)行高效 RLHF 訓(xùn)練。

高光時(shí)刻

04

NVIDIA 技術(shù)演講

精彩內(nèi)容令人應(yīng)接不暇！另有 3 場(chǎng)干貨十足的演講為 2023 云棲大會(huì)注入了 NVIDIA 特色的技術(shù)靈感。

11 月 1 日，NVIDIA 教科研應(yīng)用技術(shù)總監(jiān)李順在云棲 SHOW 場(chǎng)，圍繞 “NVIDIA 科學(xué)智能（AI4S）賦能科學(xué)發(fā)現(xiàn)” 做專題演講，并邀請(qǐng)觀眾參與阿里云與 NVIDIA 主辦的 2023 AI for Science GPU 黑客松。

（了解更多信息，請(qǐng)查閱：https://tianchi.aliyun.com/competition/entrance/532163?spm=a2c22.12281949.0.0.52753b74tEfONb）

NVIDIA 解決方案架構(gòu)師金國強(qiáng)受邀分享 “NVIDIA 生成式 AI 加速優(yōu)化方案概覽”，帶領(lǐng)觀眾們從多個(gè)角度感受 NVIDIA 數(shù)據(jù)中心 GPU 在大語言模型及圖像生成領(lǐng)域的強(qiáng)大性能。

11 月 2 日，NVIDIA GPU、CUDA 應(yīng)用市場(chǎng)總監(jiān)侯宇濤應(yīng)阿里云天池邀請(qǐng)，在云棲 SHOW 場(chǎng)-云上開發(fā)者大賽專場(chǎng)，以 “引領(lǐng)技術(shù)，推動(dòng)應(yīng)用” 為主題做專題分享，引導(dǎo)和鼓勵(lì)開發(fā)者學(xué)習(xí) NVIDIA GPU 加速和優(yōu)化技術(shù)，并和阿里云開發(fā)者關(guān)系總監(jiān)孟晉宇共同發(fā)布了 3 個(gè)聯(lián)合舉辦的 AI 算法開發(fā)大賽。

<<<左右滑動(dòng)查看更多照片>>>

（以上照片按照演講順序排列）

NVIDIA 技術(shù)交流互動(dòng)展區(qū)

NVIDIA 全棧 AI 和加速計(jì)算展區(qū)人流如織，既然來到現(xiàn)場(chǎng)，當(dāng)然不能錯(cuò)過在這里探討影響未來數(shù)字世界發(fā)展的重要技術(shù)！

高光時(shí)刻

01

沉浸式互動(dòng)觀展

NVIDIA 在展區(qū)空間內(nèi)帶來了眾多采用 NVIDIA AI 技術(shù)的客戶案例，包括 NVIDIA TensorRT-LLM 如何幫助螞蟻團(tuán)隊(duì)優(yōu)化開源代碼大模型 CodeFuse 的推理加速、NVIDIA GPU 及 NVIDIA Clara Parabricks 如何為阿里云金融與醫(yī)療行業(yè)提供最佳的解決方案，包含開箱即用的魔搭開源模型和靈積模型服務(wù)高效 GPU 優(yōu)化、Megatron 加速通義大模型訓(xùn)練，確保訓(xùn)練性能在大集群上的可擴(kuò)展性、基于 NVIDIA Megatron 開發(fā)的深度學(xué)習(xí)大語言模型工具等豐富內(nèi)容。

此外，NVIDIA 還展示了加速基礎(chǔ)設(shè)施、AI 軟件、模型和服務(wù)的加速計(jì)算解決方案，包括 NVIDIA 加速的基礎(chǔ)設(shè)施、InfiniBand 網(wǎng)絡(luò)計(jì)算端到端解決方案、NVIDIA AI Enterprise、AI Models and Foundries 等生成式 AI 技術(shù)底座、AI Playground 生成式 AI 互動(dòng)體驗(yàn)等。

<<<左右滑動(dòng)查看更多照片>>>

高光時(shí)刻

02

AI 小課堂報(bào)道

AI 互動(dòng)展示區(qū)域內(nèi)，NVIDIA 精心打造的 AI 小課堂如期而至， NVIDIA 的技術(shù)專家們分享了關(guān)于 NVIDIA AI Enterprise、NeMo、TensorRT、Omniverse、Spectrum-X 平臺(tái)的開發(fā)技術(shù)，為各位開發(fā)者的 NVIDIA AI 入門和進(jìn)階學(xué)習(xí)拓寬了靈感思路。

精彩課程內(nèi)容包括：

• NVIDIA AI Enterprise 全面助力生成式 AI 全棧開發(fā)

• 基于 LLM 大模型構(gòu)建中文對(duì)話引擎：NeMo + ChatGLM

• 生成式 AI 應(yīng)用實(shí)踐：一個(gè)文字生成圖像的代碼實(shí)現(xiàn)流程

• 合成數(shù)據(jù)應(yīng)用初探——圖像分類數(shù)據(jù)集的制作案例

• 利用 NVIDIA BlueField-3 DPU 構(gòu)建云

• NVIDIA Spectrum-X 平臺(tái)助力生成式 AI 云服務(wù)

現(xiàn)場(chǎng)觀眾跟隨精彩講解做筆記劃重點(diǎn)，講解結(jié)束更積極與技術(shù)大咖們交流探討，仿佛每個(gè)人都在 NVIDIA 的 AI 小課堂上完成了一次“版本升級(jí)”。

<<<左右滑動(dòng)查看更多照片>>>

高光時(shí)刻

03

動(dòng)手體驗(yàn)玩轉(zhuǎn)開發(fā)

展位現(xiàn)場(chǎng)的動(dòng)手體驗(yàn)環(huán)節(jié)更是圈粉無數(shù)！

利用人工智能技術(shù)實(shí)現(xiàn) Jetbot 自動(dòng)駕駛小車避障功能的動(dòng)手體驗(yàn)活動(dòng)，在展位現(xiàn)場(chǎng)人氣爆棚。開發(fā)者踴躍嘗試、積極動(dòng)手，體驗(yàn)了 NVIDIA 計(jì)算機(jī)視覺 AI 技術(shù)在避障和路徑優(yōu)化場(chǎng)景的應(yīng)用。

Full-Stack 語音 AI 開發(fā)全流程動(dòng)手編程體驗(yàn)同樣人氣滿滿，開發(fā)者經(jīng)過學(xué)習(xí)當(dāng)場(chǎng)實(shí)現(xiàn)了借助 NVIDIA NeMo 工具庫結(jié)合中文語音數(shù)據(jù)訓(xùn)練，基于 Jetson 嵌入式平臺(tái)來完成中文 ASR 功能的開發(fā)。

總結(jié)

隨著生成式 AI 與大語言模型的快步向前，加速計(jì)算與各行各業(yè)的交互、融合的新時(shí)代已經(jīng)到來。本屆云棲大會(huì)雖然已落下帷幕，但 NVIDIA 仍將發(fā)揮在加速計(jì)算領(lǐng)域的優(yōu)勢(shì)，持續(xù)創(chuàng)新、不斷深耕，進(jìn)而源源不斷地為各行業(yè)和生態(tài)提供穩(wěn)定且高效的全棧 AI 解決方案支持。

最后，感謝所有線上線下觀眾朋友的熱情關(guān)注與踴躍參與。NVIDIA 期待與大家再次相聚，共同見證 AI 新時(shí)代的發(fā)展！

GTC 2024 將于 2024 年 3 月 18 至 21 日在美國加州圣何塞會(huì)議中心舉行，線上大會(huì)也將同期開放。點(diǎn)擊“閱讀原文”或掃描下方海報(bào)二維碼，關(guān)注更多會(huì)議及活動(dòng)信息。