摘要：英偉達的顯卡對于游戲達人來說再為熟悉不過，并逐漸融入到我們的日常生活當中。

英偉達的顯卡對于游戲達人來說再為熟悉不過，并逐漸融入到我們的日常生活當中。近日，世界上第一款“光線追蹤”GPU“Quadro RTX GPU”的面世，更是被英偉達創(chuàng)始人兼CEO黃仁勛稱為“自CUDA以來，英偉達推出最重要的一塊GPU”。英偉達為了這塊顯卡，前后打磨了十年的時間。它的出現(xiàn)，將顛覆現(xiàn)有圖形渲染計算。

我們榮幸地邀請到了英偉達亞太區(qū)架構主管趙立威先生，他圍繞著《GPU計算前沿技術進展及其在AI領域的應用》的話題，與20余位創(chuàng)業(yè)者進行了深刻交流，人工智能領域的搬磚男女都趕緊看過來吧~

一、GPU computing最新技術進展

趙立威：我非常有幸在過去的20多年間，經(jīng)歷了IT從起步到大熱的整個發(fā)展過程。20年前，我在IBM，那時候我自己都沒有一臺PC機，郵件都跑在mainframe上。我有一張軟盤，它相當于我的密鑰，把軟盤插入辦公室的諸多電腦之一，我就能訪問我在主機上的郵件服務。這可以說是前PC時代。

過去這些年，計算形態(tài)從PC到移動計算到云再到現(xiàn)在的人工智能。但事實上AI并不是這兩年才開始研究，幾十年前就已經(jīng)開始了。那么為什么現(xiàn)在人工智能這么火呢？它離不開三算的發(fā)展。何為三算？即算法，算力（計算力），算據(jù)（數(shù)據(jù)）。

圖源：http://news.ikanchai.com/2017/1204/179891.shtml

那么這三算是怎樣互相作用，然后驅(qū)動人工智能從2012年一下子發(fā)展到現(xiàn)在的狀態(tài)呢？這里有一個小故事可以與大家分享。

大家可能都聽說過Alex Krizhevsky，他在博士期間設計了人類歷史上第一個真正意義上的深度神經(jīng)網(wǎng)絡AlexNet——一共是八個學習層，包含六千萬個參數(shù)。他的導師Hinton（被稱為“神經(jīng)網(wǎng)絡之父”）并不支持他將這個作為博士論文的研究方向，因為當時的計算都是基于CPU的計算方式，這樣的神經(jīng)網(wǎng)絡模型訓練一次就要幾個月的時間；然后要手動調(diào)參，再重新訓練，這樣反復下來，想要得到一個靠譜的神經(jīng)網(wǎng)絡模型，大約需要幾十遍；運氣好的時候十幾遍的訓練次數(shù)，可能要花費數(shù)十年的時間。但是Alex作為一個典型的Geek并不放棄，在學習數(shù)學之余他還學習了大量與編程相關的知識，其中就包括CUDA。

CUDA是NVIDIA創(chuàng)造的一個并行計算平臺和編程模型。它利用圖形處理器(GPU)能力，實現(xiàn)計算性能的顯著提高。NVIDIA是在2006年推出的CUDA，自那以后，股價從最初的7美元一路攀升到現(xiàn)在的260多美元。

Alex用CUDA重新對他的模型進行編程，然后買了兩塊當時非常強大的顯卡GTX580，花了6天時間訓練AlexNet，并且不斷調(diào)優(yōu)和完善。后來參加了李飛飛主導的ImageNet大賽，并且獲得了當年的冠軍。AlexNet當時能夠達到的圖像識別精度，遙遙領先于第二名。大賽之后，Alex和他的導師Hinton成立了公司，這個公司幾個月以后被Google以4億美金收購。這是一個靠GPU創(chuàng)富的故事，可以看到，GPU與深度神經(jīng)網(wǎng)絡的第一次結合創(chuàng)造了4億美金的價值。

英偉達?精視?(NVIDIA? GeForce?) GTX 580

在這之后，我們經(jīng)歷了近似寒武紀時期的神經(jīng)網(wǎng)絡模型大爆發(fā)的時代。2012年之前，人們雖然一直在研究，但是沒有足夠的算力來支撐這些算法，但是新的計算方式GPU Computing的出現(xiàn)，支撐了同類型的神經(jīng)網(wǎng)絡模型的訓練；從而促成了各種模型的爆發(fā)式增長，進而進入到人工智能的時代。

如今，大家可以使用Caffe、TensorFlow、Theano等等開源的深度學習平臺來進行實現(xiàn)自己的算法，也可以在CUDA上進行編程。人工智能研究領域的頭部公司，他們現(xiàn)在推薦的算法模型已經(jīng)達到了相當復雜的程度，一個模型可以達到1個T甚至幾個T的規(guī)模，包含幾十億甚至上百億個參數(shù)，數(shù)據(jù)量更是可想而知。這樣的模型訓練起來難度就越發(fā)高。因此，三算就這樣糾纏在一起，互相促進、互相提升。

大家都知道著名的摩爾定律，其內(nèi)容是當價格不變時，集成電路上可容納的元器件的數(shù)目，約每隔18-24個月便會增加一倍，性能也將提升一倍。換言之，每一美元所能買到的電腦性能，將每隔18-24個月翻一倍以上。這一定律揭示了信息技術進步的速度。但是根據(jù)OPEN AI的今年年初的測算，從AlexNet出現(xiàn)以后，到去年年底一共大概5年的時間，在人工智能模型的訓練層面，我們對于計算力的需求提升了30萬倍。

我們都知道在摩爾定律的初期25年間，實現(xiàn)了性能5年10倍，25年10萬倍的提升。這是摩爾定律在CPU年代為我們帶來的計算力的提升。但是這對于人工智能模型對計算力的需求是遠遠不夠的。因此，為了滿足這種計算力的需求，我們不斷地在GPU層面打磨我們的技術，提升各方面的性能。在這樣的基礎之上，我們也看到越來越多的人開始基于CUDA去編程訓練自己的模型，Google、Facebook等也基于CUDA構建自己的開源深度學習平臺。

NVIDIA于2018年3月在GPU技術大會上推出了HGX-2 平臺，以及以HGX-2為架構的 DGX-2服務器。它是一件高密集，強性能并具有極佳的熱性能的電子產(chǎn)品。DGX-2架構的核心是NVSwitch內(nèi)存結構，本質(zhì)上，NVSwitch結構為GPU節(jié)點創(chuàng)建了一個512 GB的巨大的共享內(nèi)存空間，以 10 千瓦的功耗，在TensorCore上達到近2Petaflops的算力。

HGX-2 平臺的內(nèi)嵌 NVSwitch 拓撲結構的框圖（圖源：NextPlatform）

所謂GPU Computing不是一個單單拼硬件的事，如何來把這些算力用到人工智能算法和實際應用場景下才是大多數(shù)人應該關注的重點。大家提到英偉達可能都覺得是一家芯片公司，但其實我們公司全球一共大概有一萬兩千人；其中一萬一千人都是工程師，在這些工程師里，七千個都是軟件工程師，他們共同來搭建和完善基于GPU Computing的人工智能生態(tài)。

目前來說，人工智能的應用場景比較多的集中在Consumer Internet，國內(nèi)以BATJ、TMD為代表，美國主要是方佳、蘋果、微軟和Netflix等等。這些公司是人工智能領域的第一批先鋒，他們在這個領域投入了大量的資金，堆積了很多的算力，把業(yè)內(nèi)最有名的博士都招到他們公司，他們的每一個服務動輒就每天上億的使用量（DAU，Daily Active User），因此又收集了大量的數(shù)據(jù)。李彥宏在2018 Create百度開發(fā)者大會上提到一個Intelligent Chasm的概念，可以理解為智能溝壑，說的是和這些頭部公司所堆積的算力以及數(shù)據(jù)相比，全球其他所有公司的算力加起來可能也就是跟他們差不多的規(guī)模，甚至還不如。這種算力和數(shù)據(jù)的差距像天塹一樣。

那么如何把這些看似高高在上的人工智能算法和還比較昂貴的算力，以及很難獲取的數(shù)據(jù)，變得更加容易，這是我們過去已經(jīng)做了的以及接下來的時間里要去做的工作。

以TensorRT為例，NVIDIA TensorRT是一種高性能神經(jīng)網(wǎng)絡推理(Inference)引擎，用于在生產(chǎn)環(huán)境中部署深度學習應用程序，應用有圖像分類、分割和目標檢測等，可提供最大的推理吞吐量和效率。TensorRT是第一款可編程推理加速器，能加速現(xiàn)有和未來的網(wǎng)絡架構。通過TensorRT的大幅度加速，服務提供商能夠以經(jīng)濟實惠的成本部署這些計算密集型人工智能工作負載。

二、AI行業(yè)案例分享

人工智能比較常用的應用場景除了互聯(lián)網(wǎng)之外，還有自動駕駛、醫(yī)療、電信等等。

1. 推薦引擎

過去是人找信息，現(xiàn)在則轉(zhuǎn)變?yōu)樾畔⒄胰?。大家可能都用過快手或者抖音之類的小視頻APP，這些小視頻的背后，都有神經(jīng)網(wǎng)絡算法在支撐。你在使用一個推薦引擎的同時，可能有幾十個模型在對你進行評估，五年前可能只是sensing，感知你的需求，現(xiàn)在是從各種維度對你進行評估，多方面平衡，不光要吸引人點擊，還要你停留足夠長的時間；而吸引人點擊和吸引人停留的算法又有很大的差別。

國內(nèi)幾乎所有大的互聯(lián)網(wǎng)公司，都在訓練自己的推薦模型，做到千人千面。推薦對于這些公司是非常重要的，因為互聯(lián)網(wǎng)變現(xiàn)幾乎都和推薦有關，電商類不用說，食品類比如國內(nèi)的快手、抖音，國外的Netflix、Hulu，資訊類的比如Google news、今日頭條，還有音樂類，社交類等等。用戶的使用又在給公司提供新的數(shù)據(jù)，可以用于訓練更有效的模型。這一方面提升了用戶體驗，但另一方面可能造成用戶無法脫離這些產(chǎn)品。

2. 醫(yī)療

在英偉達初創(chuàng)加速計劃的會員中，有很大一部分都是人工智能+醫(yī)療的項目。醫(yī)療項目的一大挑戰(zhàn)是診斷。目前來講還是很難通過深度學習來做診斷，但市場仍然很大。根據(jù)一些相關報告上的數(shù)據(jù)，對于一些慢病診斷，使用深度學習算法進行輔助之后，可以將準確率提高30%-40%，同時成本下降一半。

以視網(wǎng)膜掃描為例。人們常說眼睛是心靈的窗戶，事實上眼睛也是身體的窗戶，人眼的視網(wǎng)膜上分布著豐富的毛細血管，通過掃描視網(wǎng)膜，可以檢測到人身體上的一些問題，比如糖尿病的次生災害之一就是視網(wǎng)膜的病變，以及心血管疾病。

在國內(nèi)，能夠通過視網(wǎng)膜掃描來進行診斷的醫(yī)生比較少；而且在國內(nèi)，部分醫(yī)生是不能下診斷的。通過深度學習技術，可以將這些醫(yī)生的經(jīng)驗進行收集，從而輔助診斷。目前這項技術還很難應用到醫(yī)院里，但是一些保險公司非常愿意通過這種技術，來獲得客戶患病概率的一些信息，從而輔助制定保單金額。

3. 自動駕駛

為了進行自動駕駛的研發(fā)，英偉達有自己的一個server farm。這個serverfarm內(nèi)有 1000臺DGX-1，具有1個E（1E=1024P=1024*1024T）的浮點運算能力，用于自動駕駛模型的訓練。一輛車在外面跑一天，會產(chǎn)生上T的數(shù)據(jù)量，一年可能是上P的數(shù)據(jù)量。但即使是這樣，僅僅靠實車上路收集數(shù)據(jù)也遠遠不夠，根據(jù)估算，自動駕駛車輛至少要跑10萬英里，才能勉強滿足上路的標準。就現(xiàn)在而言，自動駕駛的車輛脫把率并不高，Google的自動駕駛車輛大概是幾千英里需要扶一次方向盤，其他的情況也基本一樣。

我們現(xiàn)在的做法是把實車里的模型拿到server farm里，讓他在服務器里的高度仿真的模擬環(huán)境下進行訓練，在訓練的過程中產(chǎn)生新的數(shù)據(jù)，然后用這些數(shù)據(jù)再去訓練新的模型。通過這種做法來嘗試加速對自動駕駛車輛模型的訓練。

圖源：pixabay.com

在AI應用場景的分享之后，主講人趙立威還向大家詳細介紹了NVIDIA的新品Quadro RTX，它能夠幫助游戲和電影行業(yè)實現(xiàn)實時的光線追蹤和渲染。最后，他以英偉達在硅谷的新辦公大樓“Endeavor”和“Voyager”作結，表達了英偉達在人工智能領域?qū)⒉粩嗯?，并期待人工智能技術帶領人類走入未知領域的愿景。