Palm使用的手寫識(shí)別系統(tǒng)Graffiti靈感來自Hawkins曾學(xué)習(xí)的一種與大腦有關(guān)的數(shù)學(xué)——1987年夏天，一家名為Nestor的公司展示了一種能識(shí)別手寫文字的神經(jīng)網(wǎng)絡(luò)，要價(jià)100萬(wàn)美元，“他們?cè)谏窠?jīng)網(wǎng)絡(luò)規(guī)則上大作文章，將它吹噓成一項(xiàng)重大突破，但我覺得手寫識(shí)別問題可以通過另一種更簡(jiǎn)單、傳統(tǒng)的方法解決。兩天后，我設(shè)計(jì)出一種速度更快，體積更小，使用更靈活的手寫識(shí)別器?！?/p>

　　生物神經(jīng)網(wǎng)絡(luò)

　　終于“掙到點(diǎn)錢”的Hawkins將自己的研究方向全面轉(zhuǎn)向神經(jīng)科學(xué)，2002年他建立了非盈利的科學(xué)研究機(jī)構(gòu)Redwood Center for Theoretical Neuroscience，2005年建立了Numenta繼續(xù)他的研究。此前一年，他出版了《On Intelligence》，向大眾介紹大腦和智能理論。書中他提出了“記憶-預(yù)測(cè)”框架（Memory-prediction framework）——大腦的新皮質(zhì)、海馬體和丘腦聯(lián)合匹配感官輸入，存儲(chǔ)記憶模式，并將這個(gè)過程如何用于預(yù)測(cè)。進(jìn)而根據(jù)這一生物學(xué)框架發(fā)展出了HTM（Hierarchical Temporal Memory）機(jī)器學(xué)習(xí)模型。Hawkins將其稱為“生物神經(jīng)網(wǎng)絡(luò)”（Biological Neural Network），與之對(duì)應(yīng)的，他將Deep Learning為代表的神經(jīng)網(wǎng)絡(luò)稱為“簡(jiǎn)單神經(jīng)網(wǎng)絡(luò)”（Simple Neural Network）。

　　圖2 Graffiti手勢(shì)

　　“大腦以稀疏分布表示（sparse distributed representations，SDR）表征信息，我相信未來所有智能機(jī)器都將基于SDR。而現(xiàn)有機(jī)器學(xué)習(xí)技術(shù)卻無(wú)法將SDR加入其中，因?yàn)镾DR是構(gòu)建其他一切的基礎(chǔ)。生物神經(jīng)也遠(yuǎn)比‘簡(jiǎn)單神經(jīng)網(wǎng)絡(luò)’復(fù)雜得多。而作為生物神經(jīng)網(wǎng)絡(luò)的一種，HTM已能從數(shù)據(jù)流中學(xué)習(xí)結(jié)構(gòu)，做出預(yù)測(cè)和發(fā)現(xiàn)異常，還能從未標(biāo)記的數(shù)據(jù)中連續(xù)學(xué)習(xí)?！盚awkins這樣解釋“生物神經(jīng)網(wǎng)絡(luò)”的獨(dú)特之處，他還覺得目前人工智能對(duì)認(rèn)知功能被分割了——分為語(yǔ)音，視覺，自然語(yǔ)言等領(lǐng)域，而人腦是具有綜合性的認(rèn)知系統(tǒng)。目前的圖像識(shí)別需要上千萬(wàn)張照片的收集歸類，才能讓機(jī)器“認(rèn)出”貓，但人腦善于捕捉和認(rèn)知流動(dòng)的信息，也不需要大數(shù)據(jù)的支持。