MIT座右銘是“Mens et Manus”:理論、實(shí)踐兩手抓,兩手都要硬。MIT的課程設(shè)置也秉承了動腦更要動手的原則,具有很高的實(shí)操性。今天我們向大家介紹一門MIT新課6.S191:深入“深度學(xué)習(xí)”。
MIT官方座右銘是“Mens et Manus”:理論、實(shí)踐兩手抓,兩手都要硬。MIT的課程設(shè)置也秉承了動腦更要動手的原則,具有很高的實(shí)操性。
6.S191:深入”深度學(xué)習(xí)“是MIT正式提供的入門課程,已在其課程網(wǎng)站上開源。
該課程共9課時(shí),全免費(fèi)。包括一系列關(guān)于神經(jīng)網(wǎng)絡(luò)基礎(chǔ)知識的基礎(chǔ)講座及其在序列建模、計(jì)算機(jī)視覺、生成模型和強(qiáng)化學(xué)習(xí)中的應(yīng)用。
視頻、代碼等資源下載地址見文末。
課程視頻截圖
課程簡介
理論部分主要是線下講座。MIT將線下講座錄制成視頻并放在了YouTube上,供大家隨意觀看。
講座內(nèi)容會從神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)知識開始,然后講到完全連接的網(wǎng)絡(luò)和反向傳播算法; 再到通過循環(huán)和卷積神經(jīng)網(wǎng)絡(luò),生成模型和深度強(qiáng)化學(xué)習(xí)的旅程; 并探索現(xiàn)代深度學(xué)習(xí)研究不斷擴(kuò)大的前沿等等。
而實(shí)踐部分,MIT設(shè)計(jì)了三個開源、交互的TensorFlow軟件lab,涵蓋了TensorFlow的基礎(chǔ)知識。例如,用于音樂生成的復(fù)現(xiàn)神經(jīng)網(wǎng)絡(luò)模型、計(jì)算機(jī)視覺、消除偏見的面部識別系統(tǒng)和深度強(qiáng)化學(xué)習(xí)。
lab運(yùn)行在谷歌的Colaboratory環(huán)境中,只需要你有一個谷歌賬戶即可。互動部分包括一部分“TODO”代碼塊,供你來完成。MIT將指導(dǎo)學(xué)生如何使用TensorFlow的Keras API及其新的命令執(zhí)行風(fēng)格,來定義和訓(xùn)練深度學(xué)習(xí)模型。
接下來,我們來分別介紹一下這3個lab:
Lab介紹
Lab 1:介紹TensorFlow及音樂生成
第1講側(cè)重于神經(jīng)網(wǎng)絡(luò)基礎(chǔ)。因此lab 1中的第一個模塊簡單介紹了TensorFlow,為即將發(fā)布的TensorFlow 2.0做準(zhǔn)備。
TensorFlow練習(xí)的介紹中,特別強(qiáng)調(diào)了幾個關(guān)鍵概念:如何使用數(shù)學(xué)運(yùn)算符執(zhí)行計(jì)算;如何定義神經(jīng)網(wǎng)絡(luò)模型;以及如何使用自動微分來訓(xùn)練具有反向傳播的網(wǎng)絡(luò)。
lab 1的第二個模塊直接進(jìn)入構(gòu)建和RNN進(jìn)行音樂生成,旨在配合第2講深度序列建模。
通過第二模塊,你將能夠構(gòu)建一個人工智能算法,生成全新的、從未聽過的愛爾蘭民歌。為什么愛爾蘭民間音樂不是二人轉(zhuǎn)啥的呢?因?yàn)檎n程設(shè)計(jì)者特別喜歡下面這個萌萌噠?谷歌Doodle。動圖中的幾個?們正在表演傳統(tǒng)的愛爾蘭民歌。
通過填寫代碼塊以定義RNN模型,使用愛爾蘭民歌的數(shù)據(jù)集(在ABC表示法中)訓(xùn)練模型,使用學(xué)習(xí)的模型生成新歌曲,然后播放生成的內(nèi)容來檢驗(yàn)?zāi)愕哪P偷某晒绾巍?/p>
下面是一段示例音樂:
Lab 2:計(jì)算機(jī)視覺:消除偏見的面部檢測系統(tǒng)
Lab 2伴隨著深度計(jì)算機(jī)視覺和深度生成模型的講座。
第1部分通過卷積神經(jīng)網(wǎng)絡(luò)(CNN)的示例提供了對基本神經(jīng)網(wǎng)絡(luò)架構(gòu)的實(shí)現(xiàn)的持續(xù)實(shí)踐,用于對著名的MNIST數(shù)據(jù)集中的手寫數(shù)字進(jìn)行分類。
第2部分更進(jìn)一步,探討了應(yīng)用深度學(xué)習(xí)的兩個突出例子:面部檢測和算法偏見。
盡管神經(jīng)網(wǎng)絡(luò)在識別圖像中的面部識別的消除偏見方面表現(xiàn)非常出色,但最近有很多人關(guān)注這些人工智能會遭受隱藏的算法偏見。事實(shí)證明,深度學(xué)習(xí)本身可以幫助對抗這種偏見。
MIT基于變分自動編碼器(VAE)訓(xùn)練了一個模型,該模型學(xué)習(xí)特定任務(wù),如面部檢測、以及訓(xùn)練數(shù)據(jù)的基礎(chǔ)結(jié)構(gòu)。
反過來,該算法使用這種學(xué)習(xí)的潛在結(jié)構(gòu),來揭示隱藏的偏見,并將其影響降低至最小化。
當(dāng)應(yīng)用于面部檢測任務(wù)時(shí),與最先進(jìn)的模型相比,MIT的算法降低了分類偏見并保持了非常高的整體準(zhǔn)確性。
這個軟件lab將教會你如何構(gòu)建這個去除模型,并評估其在消除面部檢測任務(wù)方面的功效。
除了考慮算法偏見及如何對抗之外,你還將獲得VAE的實(shí)操經(jīng)驗(yàn),這種架構(gòu)通常不會在深度學(xué)習(xí)實(shí)施教程中突出顯示。
更重要的是,這種方法可以應(yīng)用于面部檢測以外的任何環(huán)境!
下面是一段示例代碼:
Lab 3:無模型強(qiáng)化學(xué)習(xí)
這個lab開始,你講接觸到深層強(qiáng)化學(xué)習(xí)的基礎(chǔ)技巧。
與之前專注于監(jiān)督和無監(jiān)督學(xué)習(xí)的lab相比,強(qiáng)化學(xué)習(xí)旨在教會代理人如何在世界上行動以最大化自己的獎勵。
Tensorflow的強(qiáng)制執(zhí)行為RL提供了一種簡化的方法,你可以在lab 3中,從頭開始完整的編寫一段程序。
我們專注于學(xué)習(xí)兩個任務(wù):控制(例如Cart-Pole)和游戲(例如Pong)。MIT會分配學(xué)生一個任務(wù):建立一個模塊化的RL框架,只使用一個“RL大腦”來學(xué)習(xí)這兩個截然不同的環(huán)境。
處理這些基線環(huán)境為學(xué)生提供了迅速掌握快速創(chuàng)建新算法原型的方法。學(xué)生們最終能夠具體了解如何實(shí)施RL培訓(xùn)程序,并將這些想法用作最終項(xiàng)目中的模板。
-
MIT
+關(guān)注
關(guān)注
3文章
254瀏覽量
24438 -
計(jì)算機(jī)視覺
+關(guān)注
關(guān)注
9文章
1709瀏覽量
46781 -
深度學(xué)習(xí)
+關(guān)注
關(guān)注
73文章
5561瀏覽量
122799
原文標(biāo)題:入門最佳!MIT發(fā)布最新深度學(xué)習(xí)導(dǎo)論課,9大主題3大實(shí)踐(視頻+代碼)
文章出處:【微信號:AI_era,微信公眾號:新智元】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
評論