近日，由阿里云及 NVIDIA 聯(lián)合舉辦的“NVIDIA TensorRT Hackathon 2023 生成式 AI 模型優(yōu)化賽”已正式啟動。此大賽是由阿里云天池組織運營，TensorRT Hackathon 是本系列的第三屆比賽。與往屆一樣，主辦方希望通過比賽的形式，提升選手開發(fā) TensorRT 應(yīng)用的能力，因此非常重視選手的學(xué)習(xí)過程以及與 NVIDIA 專家之間的溝通交流。該賽事面向全社會開放，接受個人或不多于三人的組隊形式參賽。

NVIDIA TensorRT 作為 NVIDIA GPU 上的 AI 推理加速庫，已在業(yè)界得到廣泛應(yīng)用與部署。與此同時，NVIDIA TensorRT 開發(fā)團隊仍在持續(xù)提升產(chǎn)品的易用性，他們不僅讓更多模型能夠順利通過 ONNX 自動解析進行加速，還深度優(yōu)化了常見模型結(jié)構(gòu)（比如 MHA）的計算。這使得大部分模型無需手動優(yōu)化，就能在 TensorRT 上輕松運行，而且性能優(yōu)秀。

過去的一年，是生成式 AI 井噴的一年。大量的圖像和文本被計算機批量生產(chǎn)出來，有的甚至能媲美專業(yè)創(chuàng)作者的畫工與文采。可以期待，未來會有更多的生成式 AI 模型大放異彩。因此，本屆比賽將生成式 AI 模型作為主題，打造展現(xiàn)創(chuàng)造力和智慧的全新舞臺。

大賽期待選手們通過這場比賽，在 TensorRT 編程相關(guān)的知識和技能上有所收獲。為了幫助選手更順利地完成比賽，請參賽者觀看并學(xué)習(xí) NVIDIA GPU 計算技術(shù)專家團隊為此次比賽準備的系列講座。

講座地址：TensorRT 教程 | 基于 8.6.1 版本 | 第一部分（共五部分）：

https://www.bilibili.com/video/BV1jj411Z7wG/?vd_source=8c80e3c943b3cc2edfdbdc2d27677756

正如本次大賽的主導(dǎo)者之一，NVIDIA GPU 計算團隊技術(shù)專家季光表示：“在這個 AI 推理的新紀元，TensorRT 作為強大的加速庫，將為選手們提供領(lǐng)先極致的工具和平臺，讓他們的想法和創(chuàng)意得以完美實現(xiàn)。我們深信，本次比賽將激發(fā)出選手們的潛力，推動 AI 技術(shù)的進步和創(chuàng)新。無論是初賽還是復(fù)賽，我們期待看到選手們展現(xiàn)出的卓越才華和令人驚嘆的成果，為 AI 領(lǐng)域帶來全新的突破和發(fā)展。”

立即加入 TensorRT Hackathon！

掃描二維碼或點擊閱讀原文，進入報名頁面：

賽程介紹

報名時間

• 報名開放：2023 年 7 月 11 日

• 初賽提交階段：2023 年 7 月 11 日 – 8 月 14 日

• 復(fù)賽調(diào)優(yōu)階段：2023 年 8 月 17 日 – 9 月 21 日

• 名次公布：2023 年 9 月 29 日

獎項設(shè)置

• 冠軍 1 名：獎金共 10,000 元人民幣。

• 亞軍 2 名：獎金共 10,000 元人民幣（每支團隊 5,000 元人民幣）。

• 季軍 3 名：獎金共 9,000 元人民幣（每支團隊 3,000 元人民幣）。

• 優(yōu)勝獎 20 名：獎金共 20,000 元人民幣（每支團隊 1,000 元人民幣）。

參賽對象

大賽面向全社會開放，個人、高等院校、科研單位、企業(yè)、創(chuàng)客團隊等人員均可報名參賽，組隊上限 3 人。

• 大賽組織機構(gòu)單位中涉及題目編寫、數(shù)據(jù)接觸的人員禁止參賽。

• 阿里云智能和 NVIDIA 員工，可參與排名，但不參與評獎及領(lǐng)取獎金。

賽題介紹

初賽提交階段

2023 年 7 月 11 日 – 8 月 14 日

初賽階段，主辦方將利用 TensorRT 加速帶有 ControlNet 的 Stable Diffusion canny2image pipeline，以優(yōu)化后的運行時間和出圖質(zhì)量作為主要排名依據(jù)。初賽結(jié)束時，大賽將舉行一次講評，向參賽者介紹優(yōu)化該模型的技巧。請注意，初賽不提供開發(fā)機，參賽選手需要自備帶有 GPU 的 Linux/Windows 11 (WSL2) 開發(fā)機，并在給定的 docker 中使用賽方提供的模型文件和開發(fā)工具完成模型在 TensorRT 中的構(gòu)建、精度驗證和性能測試，并提交最終代碼。

復(fù)賽調(diào)優(yōu)階段

2023 年 8 月 17 日 – 9 月 21 日

復(fù)賽是開放賽題，選手可以自由選擇公開的 Transformer 模型，在 TensorRT 上進行優(yōu)化運行。值得關(guān)注的重要訊息 —— TensorRT 即將發(fā)布用于大型語言模型推理的工具，推薦在復(fù)賽中使用該工具。在評分過程中，使用該工具將獲得一定的加分。復(fù)賽賽制與 2022 年基本保持一致。

決賽排名公布

2023 年 9 月 29 日

更多賽制細節(jié)和賽題與數(shù)據(jù)信息

請掃描二維碼或點擊閱讀原文了解：