如果希望了解機(jī)器學(xué)習(xí)，或者已經(jīng)決定投身機(jī)器學(xué)習(xí)，你會第一時間找到各種教材進(jìn)行充電，同時在心中默認(rèn)：書里講的是牛人大神的畢生智慧，是正確無誤的行動指南，認(rèn)真學(xué)習(xí)就能獲得快速提升。但實(shí)際情況是，你很可能已經(jīng)在走彎路。
　　科技發(fā)展很快，數(shù)據(jù)在指數(shù)級增長，環(huán)境也在指數(shù)級改變，因此很多時候教科書會跟不上時代的發(fā)展。有時，即便是寫教科書的人，也不見得都明白結(jié)論背后的“所以然”，因此有些結(jié)論就會落后于時代。針對這個問題，第四范式創(chuàng)始人、首席執(zhí)行官戴文淵近日就在第四范式內(nèi)部分享上，向大家介紹了機(jī)器學(xué)習(xí)教材中的七個經(jīng)典問題。本文根據(jù)演講實(shí)錄整理，略有刪減。
　　有時我們會發(fā)現(xiàn)，在實(shí)際工作中，應(yīng)該怎么做和教科書講的結(jié)論相矛盾，這時候要怎么辦呢？難道教科書中的結(jié)論出錯了？事實(shí)上，有時確實(shí)如此。所以今天我就想和大家分享一下機(jī)器學(xué)習(xí)教材中的一些經(jīng)典問題，希望對大家今后的工作和學(xué)習(xí)有所幫助。
　　神經(jīng)網(wǎng)絡(luò)不宜超過三層
　　
　　那為什么之前的教科書上會寫神經(jīng)網(wǎng)絡(luò)不能超過三層，這就要從神經(jīng)網(wǎng)絡(luò)的歷史說起。五十年代有位科學(xué)家叫Marvin Minksy，他是一位生物學(xué)家，數(shù)學(xué)又很好，所以他在研究神經(jīng)元的時候就在想能不能用數(shù)學(xué)模型去刻畫生物的神經(jīng)元，因此就設(shè)計了感知機(jī)。感知機(jī)就像一個神經(jīng)細(xì)胞，它能像神經(jīng)細(xì)胞一樣連起來，形成神經(jīng)網(wǎng)絡(luò)，就像大腦的神經(jīng)網(wǎng)絡(luò)。其實(shí)在60年代開始的時候，是有很深的神經(jīng)網(wǎng)絡(luò)，但當(dāng)時經(jīng)過大量實(shí)驗(yàn)發(fā)現(xiàn)，不超過三層的神經(jīng)網(wǎng)絡(luò)效果不錯，于是大概到80年代時就得出結(jié)論：神經(jīng)網(wǎng)絡(luò)不宜超過三層。