一、計(jì)算機(jī)和人相互依存

當(dāng)今社會，計(jì)算機(jī)在我們的生活和工作中扮演著重要的角色，人類使用計(jì)算機(jī)幫助他們進(jìn)行大量的計(jì)算，通過計(jì)算機(jī)讓每個人相互通信等等。但時代的進(jìn)步讓我們對計(jì)算機(jī)的要求越來越高，人類希望它能夠從事越來越復(fù)雜的工作。乍看計(jì)算機(jī)進(jìn)行計(jì)算以及通信工作的原理好像很復(fù)雜難懂，實(shí)際上計(jì)算機(jī)能夠進(jìn)行這些工作是因?yàn)槿藗円呀?jīng)給它設(shè)定好了程序，計(jì)算機(jī)只要按照這些程序規(guī)范執(zhí)行就好了，這是一種單向的工作模式，這種情況下，計(jì)算機(jī)是完全不會“思考”的，只知道按程序執(zhí)行指令，而我們卻想賦予計(jì)算機(jī)思考的能力，這便是人工智能的起點(diǎn)。

圖1.1.1

我們希望計(jì)算機(jī)“思考”什么呢？比如，我們希望計(jì)算機(jī)能夠幫我們識別出圖片中動物是貓還是狗，幫我們對于圖片中存在各種物體做標(biāo)識，幫我們翻譯一段文字，或者幫我們分析一段話或者一段句子中蘊(yùn)含著說話人的什么情感等等。這些工作對人類而言非常簡單，甚至一個2，3歲的孩子也完全可以很好的分辨出一張圖片中的動物是貓還是狗，但這些對于計(jì)算機(jī)而已，卻是非常困難的，因?yàn)橛?jì)算機(jī)不會“思考”，它不明白什么是狗，什么是貓，除非我們訓(xùn)練它去認(rèn)識狗和貓，這便是后來的機(jī)器學(xué)習(xí)。

圖1.1.2

二、 我們的神經(jīng)細(xì)胞

要想計(jì)算機(jī)學(xué)會“思考”，首先來看看人類是如何思考的。

生命是神奇，美妙，復(fù)雜的，這種復(fù)雜程度不知道是計(jì)算機(jī)系統(tǒng)的多少倍，人類能夠思考并從事各種各樣的復(fù)雜的工作，是因?yàn)槲覀兩眢w內(nèi)部微小的神經(jīng)細(xì)胞起著作用。

神經(jīng)細(xì)胞也叫神經(jīng)元,它的功能是接受某些形式的信號并對之做出反應(yīng)，比如傳導(dǎo)興奮、處理并儲存信息以及發(fā)生細(xì)胞之間的聯(lián)結(jié)等。正因?yàn)樯窠?jīng)元的這些功能，才能使得人和動物能夠?qū)ν饨绛h(huán)境的變化做出反應(yīng)。毋庸置疑，越高級的動物，神經(jīng)元的個數(shù)和神經(jīng)元之間的連接越復(fù)雜。

圖1.1.3

神經(jīng)元由樹突、胞體、軸突、髓鞘、神經(jīng)末梢等組成。樹突接受信息，并轉(zhuǎn)換成電信號，軸突傳輸電信號及處理等，神經(jīng)末梢對信息進(jìn)行反應(yīng)。一個神經(jīng)元完成了一個簡單的信息接收，處理，輸出的基本動作。人工智能專家們就從這里得到啟發(fā)，開始了人工智能模型——“神經(jīng)網(wǎng)絡(luò)”的研究。

三、人造神經(jīng)元

哲學(xué)告訴我們，世界上的萬物都是聯(lián)系的。生物學(xué)的神經(jīng)元啟發(fā)我們構(gòu)造了最簡單原始的“人造神經(jīng)元”。下圖中的圓就好比一個神經(jīng)元，它接受外部輸入，在圓內(nèi)進(jìn)行簡單或復(fù)雜的處理后形成輸出，在神經(jīng)網(wǎng)絡(luò)中我們稱之為感知機(jī)。

圖1.1.4

神經(jīng)元是人體神經(jīng)系統(tǒng)的基本結(jié)構(gòu)和功能單位，是無數(shù)個神經(jīng)元相連而成（如下圖1.1.5所示），這是一個非常復(fù)雜的網(wǎng)絡(luò)系統(tǒng)。神經(jīng)元間聯(lián)系方式是互相接觸，而不是細(xì)胞質(zhì)的互相溝通。接觸部位的結(jié)構(gòu)特化稱為突觸，通常是一個神經(jīng)元的軸突與另一個神經(jīng)元的樹突或胞體借突觸發(fā)生機(jī)能上的聯(lián)系，神經(jīng)沖動由一個神經(jīng)元通過突觸傳遞到另一個神經(jīng)元。

圖1.1.5

同理，從人體神經(jīng)系統(tǒng)的構(gòu)成可以進(jìn)一步創(chuàng)建更加復(fù)雜的人造神經(jīng)系統(tǒng)，比如我們讓多個人造神經(jīng)元（感知機(jī)）相連接，便形成了人工智能里面聲稱的“神經(jīng)網(wǎng)絡(luò)”。如下圖所示，一個圓圈代表一個神經(jīng)元，黃色的第一層稱為輸入層，藍(lán)色的第二層稱為隱藏層，隱藏層可以有多層，綠色的第三層稱為輸出層。

圖1.1.6

這僅僅是幾個神經(jīng)元相連構(gòu)成的簡單網(wǎng)絡(luò)，想想人類大腦1000億個神經(jīng)細(xì)胞錯綜復(fù)雜的關(guān)聯(lián)在一起，是何等的復(fù)雜和繁忙，它們不停在處理信號，發(fā)出信號，讓我們能夠思考和從事各種工作，如果換成上萬個人造神經(jīng)元相連，你覺得計(jì)算機(jī)可以做更加復(fù)雜的工作嗎，答案是肯定的。

四、由神經(jīng)元聯(lián)想到分類器

現(xiàn)在我們需要神經(jīng)元來幫我們處理一個信息，把10加侖(gallon)的汽油換成以升(L)為單位的汽油。對于加侖和升兩種單位，國際上有標(biāo)準(zhǔn)的換算比例，1加侖=3.785412升，我們可以用一個公式來表示，即G=3.78L或者y=3.78x，通過公式，我們可以簡單的換算就知道答案，這個難不到讀過初中的你。再仔細(xì)看看，y=3.78x不就是在坐標(biāo)系中過原點(diǎn)的一條直線嗎？3.78是直線的斜率。

接著我們用神經(jīng)元來進(jìn)行學(xué)習(xí)換算（忽略一下激活層），如下圖1.1.7，神經(jīng)元的輸入為x，我們給輸入x賦了一個權(quán)重α，最后經(jīng)過神經(jīng)元的計(jì)算，得到輸出y。

圖1.1.7

在神經(jīng)元的計(jì)算中，最重要的一步是必須知道權(quán)值α，才能得到輸出y，怎么換算呢？首先，正真的值應(yīng)該是37.8升，核心就是神經(jīng)元把正確答案37.8的和它預(yù)測的答案來對比著不斷學(xué)習(xí)改進(jìn)！第一步，先像人一樣猜猜看，假設(shè)α=3，則神經(jīng)元預(yù)測值y′=30升。

“這與實(shí)際值有差異吧，誤差為37.8-30=7.8升；哦，我明白了！”神經(jīng)元繼續(xù)想著下一個計(jì)算。
“再計(jì)算一次我肯定能減小誤差，讓α=3.5吧”，這一次預(yù)測值為35升。
“第二次計(jì)算誤差為37.8?35=2.8升，哈哈誤差在不斷縮小，也許下一次計(jì)算就接近真實(shí)值了！”
“這次我讓α=4，哦，糟了，預(yù)測值為40升，與實(shí)際值的誤差為37.8?40=?2.2升，過了！”
“好吧，我知道怎么調(diào)整了......”

神經(jīng)元就這樣從誤差中不停的學(xué)習(xí)，最后輸出的值越來越接近真實(shí)值，這無疑是一次成功的訓(xùn)練！

五、分類器

現(xiàn)在我們有兩堆豆子，豆子的特征如下表所示，我們想通過計(jì)算機(jī)預(yù)測一下哪一種是黃豆，哪一種是蠶豆。對于識別兩種不同種類的物體，人類眨巴眼就可以很容易的分辨出來，但計(jì)算機(jī)怎么分辨？是否有解決方案，答案是肯定的。

表1.1.1

我們用坐標(biāo)來直觀的可視化這些特征，如下圖1.1.8所示。兩種豆子的長寬分別落在一定值范圍內(nèi)，他們有明顯的特征，分布在坐標(biāo)中的不同區(qū)域。

圖1.1.8

如果我們想分類這兩種豆子，最好的辦法是什么呢，當(dāng)然是在中間劃一條線了！在線的上面是蠶豆，線的下面是黃豆，如下圖1.1.9所示。這樣的線在數(shù)學(xué)中是一條線性線段，在神經(jīng)網(wǎng)絡(luò)中被稱為分類器。只要計(jì)算機(jī)能給出一條最合理的分類線（最優(yōu)的分類器），那么計(jì)算機(jī)就完成了分類任務(wù)，也就意味著計(jì)算機(jī)可以認(rèn)識豆子了！哈哈，居然這么簡單！

圖1.1.9

你或許會問，這種線太多了，比如下面圖1.1.10(a)就不是一個很好的分類器，它完全沒有把黃豆和蠶豆分開，圖(b)也未能把兩種豆子分開，或許圖(c)應(yīng)該不錯，它把兩種豆子很明顯的分類開了，但圖(c)的分類器并不一定是最優(yōu)的分類器，一個分類器如何優(yōu)化，這取決于黃豆和蠶豆樣品輸入的特征值來刺激分類器進(jìn)行不斷的優(yōu)化。

圖1.1.10

怎么才能找到最優(yōu)的一條線呢？這正是分類器內(nèi)部需要做的工作，它通過一系列的計(jì)算，找出最優(yōu)的線性線段，也就是我們的最優(yōu)分類器。反觀我們的神經(jīng)系統(tǒng)，人體神經(jīng)元也是通過樹突接收信號，在細(xì)胞質(zhì)中經(jīng)過處理后通過軸突傳到其他地方的，以上的人工神經(jīng)元換算加侖和升不就是這樣的嗎？

原來，神經(jīng)元和分類器如此類似！

But！這里強(qiáng)調(diào)一下，人體神經(jīng)系統(tǒng)中神經(jīng)元要收到信號，并不是馬上就傳導(dǎo)，而是要在信號刺激較達(dá)到一定閾值時候才開始處理信息并把信息傳導(dǎo)出去，而在人造神經(jīng)元中，信息的處理和傳播也是如此，這樣說來，神經(jīng)元并不僅僅就是第一節(jié)中圖1.1.4所示的一個圓圈，而是還有一層激活，信號達(dá)到一定閾值，激活層才能處理信息，并輸出。如下圖1.1.11所示。

圖1.1.11

因此，如果把神經(jīng)元看成一個黑盒的話，這個黑盒應(yīng)該包括了上圖中的第一個計(jì)算器和第二個激活層，而激活層中是些什么東東呢，下一節(jié)我們會詳細(xì)講到。

六、分類器解決所有二分類問題嗎

上面的線性分類器可以有效的進(jìn)行二分類，在實(shí)際應(yīng)用中我們也經(jīng)常使用到，但是這種分類器一定就很強(qiáng)大嗎，有沒有它完成不了的分類呢？當(dāng)然，萬事萬物都有局限性，我們引入幾個邏輯門來闡明一下這種局限性。

我們曾經(jīng)在邏輯電路中學(xué)過與門，或門，與非門，或非門，異或門等幾種基本原件，如下圖1.1.12，這些原件組成的電路構(gòu)成了最早的計(jì)算機(jī)。雖然這些原件的名字聽起來太理工科了，但是我們可以換個方式來理解這些生硬的器件，比如，兒子想看動畫片，與門表示完成作業(yè)和吃完飯兩個條件均滿足才能看動畫片；或門表示，只要完成作業(yè)或者吃完飯兩個條件其中有一個滿足就可以看動畫片等等，對照表1.1.2，你可以更容易地去理解。

圖1.1.12

繼續(xù)觀察這些邏輯門均有兩個輸入，一個輸出，輸入我們可以用1或0表示，輸出也可以用1或0表示，實(shí)際上計(jì)算機(jī)也就是通過0和1來處理信息的，計(jì)算機(jī)把0視為假，1視為真，并把0和1組成的一系列信息經(jīng)過處理，得到一個輸出?，F(xiàn)在，我們把這些邏輯門視為幾個邏輯函數(shù)，這些函數(shù)的輸入輸出是什么關(guān)系呢，我們用下表1.1.2表示。

表1.1.2

同時，我們把表格中前四個邏輯函數(shù)用坐標(biāo)來觀察一下，規(guī)定同輸出且輸出為1的坐標(biāo)用紅色表示，同輸出且輸出為0的坐標(biāo)用綠色表示，如下圖1.1.13所示?？梢钥吹剑邢嗤妮敵鼍梢杂靡粋€分類器來進(jìn)行分類，也意味著分類器均可以很好的學(xué)習(xí)，這是我們希望看到的，并且分類器也做得很好。

圖1.1.13

緊接著我們看看最后一個邏輯函數(shù)——異或邏輯，糟糕！一個分類器根本沒辦法進(jìn)行正確的分類，我們不希望看的事發(fā)生了，它無法解決這個有趣的問題，但我們希望計(jì)算機(jī)再智能一點(diǎn)，能夠幫助我們進(jìn)行正確的分類。有解決方法嗎？仔細(xì)想想其實(shí)不難，再增加一個線性分類器怎么樣？如圖1.1.15所示，Yes！這達(dá)到了我們想要的效果。

在實(shí)際應(yīng)用中，我們可能會遇到各種奇怪但有趣的問題，讓不同的分類器或者多個分類器一起工作，這是神經(jīng)網(wǎng)絡(luò)的核心思想。

圖1.1.14 圖1.1.15

分類器的局限性好像與我們后續(xù)的神經(jīng)網(wǎng)絡(luò)關(guān)系不大，但事實(shí)并不是如此，因?yàn)樯窠?jīng)網(wǎng)絡(luò)的一個重要設(shè)計(jì)特征就來源于對這個局限性的了解。神經(jīng)網(wǎng)絡(luò)并不僅僅就是解決一些簡單的問題，實(shí)際問題會復(fù)雜很多，對于各種有趣的情況我們均討論一下，對于后續(xù)的深入學(xué)習(xí)會有很大的幫助。