人工智能領(lǐng)域有三大奠基人,分別是Geoffrey Hinton、Yann LeCun與Yoshua Bengio。今天主要圍繞“神經(jīng)網(wǎng)絡(luò)之父”Geoffrey Hinton。
Geoffrey Hinton,被稱(chēng)為“神經(jīng)網(wǎng)絡(luò)之父”、“深度學(xué)習(xí)鼻祖”,他曾獲得愛(ài)丁堡大學(xué)人工智能的博士學(xué)位,并且為多倫多大學(xué)的特聘教授。在2012年,Hinton還獲得了加拿大基廉獎(jiǎng)(Killam Prizes,有“加拿大諾貝爾獎(jiǎng)”之稱(chēng)的國(guó)家最高科學(xué)獎(jiǎng))。2013年,Hinton 加入谷歌并帶領(lǐng)一個(gè)AI團(tuán)隊(duì),他將神經(jīng)網(wǎng)絡(luò)帶入到研究與應(yīng)用的熱潮,將“深度學(xué)習(xí)”從邊緣課題變成了谷歌等互聯(lián)網(wǎng)巨頭仰賴(lài)的核心技術(shù),并將HintonBack Propagation(反向傳播)算法應(yīng)用到神經(jīng)網(wǎng)絡(luò)與深度學(xué)習(xí)。
Geoffrey Hinton出生于戰(zhàn)后英國(guó)的溫布爾登,他的父親叫Howard Everest Hinton,是個(gè)英國(guó)昆蟲(chóng)學(xué)家,喜歡研究甲殼蟲(chóng)。他的母親Margaret是一位教師。而他們一家也都流淌著飽含聰明才智的DNA:他的叔叔是著名的經(jīng)濟(jì)學(xué)家Colin Clark,正是他發(fā)明了“國(guó)民生產(chǎn)總值”這個(gè)經(jīng)濟(jì)學(xué)術(shù)語(yǔ);他的曾曾祖父是著名的邏輯學(xué)家George Boole,他發(fā)明的布爾代數(shù)(Boolean algebra)奠定了現(xiàn)代計(jì)算機(jī)科學(xué)的基礎(chǔ)。
早在1960年代,Geoffrey Hinton的高中時(shí)期,就有一個(gè)朋友告訴他,人腦的工作原理就像全息圖一樣。創(chuàng)建一個(gè)3D全息圖,需要大量的記錄入射光被物體多次反射的結(jié)果,然后將這些信息存儲(chǔ)進(jìn)一個(gè)龐大的數(shù)據(jù)庫(kù)中。大腦儲(chǔ)存信息的方式居然與全息圖如此類(lèi)似,大腦并非將記憶儲(chǔ)存在一個(gè)特定的地方,而是在整個(gè)神經(jīng)網(wǎng)絡(luò)里傳播。Hinton為此深深的著迷。對(duì)Hinton來(lái)說(shuō),這是他人生的關(guān)鍵,也是他成功的起點(diǎn)。
當(dāng)時(shí)的學(xué)術(shù)界普遍認(rèn)為計(jì)算機(jī)在規(guī)則和邏輯方面做得最好,而神經(jīng)網(wǎng)絡(luò)的概念根本就是錯(cuò)誤的。但Hinton卻沒(méi)有絲毫動(dòng)搖,并于1972年在愛(ài)丁堡大學(xué)攻讀博士學(xué)位時(shí)毅然選擇了神經(jīng)網(wǎng)絡(luò)研究。每周,他的導(dǎo)師都會(huì)對(duì)他說(shuō):“你這是在浪費(fèi)時(shí)間?!钡獺inton的研究還是慢慢取得了一些成功。
博士畢業(yè)后,Hinton被里根政府的外交政策所困擾,因此帶著妻子搬到了多倫多,并接受了加拿大高級(jí)研究所的工作邀約。很快,Hinton組建起了一支專(zhuān)攻深度學(xué)習(xí)的人才團(tuán)隊(duì),其中就包括OpenAI的聯(lián)合創(chuàng)始人兼董事Ilya Sutskever?;貞浧?000年的“人工智能寒冬”, Sutskever說(shuō)道:“當(dāng)時(shí)我們只有十個(gè)人左右,資金非常匱乏。
九年時(shí)間飛逝,當(dāng)計(jì)算機(jī)終于有能力挖掘海量數(shù)據(jù)時(shí),超級(jí)神經(jīng)網(wǎng)絡(luò)開(kāi)始在語(yǔ)音和圖像識(shí)別方面超越基于邏輯的人工智能。很快,業(yè)內(nèi)的大型科技公司,如微軟、Facebook、谷歌等紛紛開(kāi)始投資。2012年,谷歌公司的絕密實(shí)驗(yàn)室GoogleX(現(xiàn)在名為X)宣布建立一個(gè)由16000個(gè)電腦處理器組成的神經(jīng)網(wǎng)絡(luò),并將其用在YouTube上。
隨后,該實(shí)驗(yàn)室從YouTube上提取了數(shù)百萬(wàn)個(gè)隨機(jī)的、沒(méi)有標(biāo)簽的視頻,輸入到這臺(tái)新的超級(jí)計(jì)算機(jī)中,并通過(guò)編程使其能夠理解所看到的內(nèi)容。最終,神經(jīng)網(wǎng)格從無(wú)數(shù)個(gè)關(guān)于貓的視頻中成功分辨出了貓,這也成為了人工智能領(lǐng)域發(fā)展過(guò)程中的一個(gè)激動(dòng)人心的時(shí)刻。
之后,Hinton和他的助手們就成為了人工智能浪潮中的領(lǐng)導(dǎo)者。 2013年,Google X的高級(jí)研究員Jeff Dean將Hinton招進(jìn)了谷歌。有趣的是,原本就不屬于體制內(nèi)學(xué)者的Hinton,突然之間成為了體制的建立者。盡管觀點(diǎn)曾經(jīng)被業(yè)界拋棄,但如今他卻成為人工智能行業(yè)里最炙手可熱的人物。
-
神經(jīng)網(wǎng)絡(luò)
+關(guān)注
關(guān)注
42文章
4814瀏覽量
103601 -
人工智能
+關(guān)注
關(guān)注
1806文章
49014瀏覽量
249435
發(fā)布評(píng)論請(qǐng)先 登錄
一文速覽:人工智能(AI)算法與GPU運(yùn)行原理詳解

BP神經(jīng)網(wǎng)絡(luò)與卷積神經(jīng)網(wǎng)絡(luò)的比較
BP神經(jīng)網(wǎng)絡(luò)的優(yōu)缺點(diǎn)分析
什么是BP神經(jīng)網(wǎng)絡(luò)的反向傳播算法
BP神經(jīng)網(wǎng)絡(luò)與深度學(xué)習(xí)的關(guān)系
BP神經(jīng)網(wǎng)絡(luò)的基本原理
人工神經(jīng)網(wǎng)絡(luò)的原理和多種神經(jīng)網(wǎng)絡(luò)架構(gòu)方法

卷積神經(jīng)網(wǎng)絡(luò)與傳統(tǒng)神經(jīng)網(wǎng)絡(luò)的比較
RNN模型與傳統(tǒng)神經(jīng)網(wǎng)絡(luò)的區(qū)別
LSTM神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)與工作機(jī)制
LSTM神經(jīng)網(wǎng)絡(luò)與傳統(tǒng)RNN的區(qū)別
LSTM神經(jīng)網(wǎng)絡(luò)的基本原理 如何實(shí)現(xiàn)LSTM神經(jīng)網(wǎng)絡(luò)
Moku人工神經(jīng)網(wǎng)絡(luò)101

評(píng)論