本文檔的主要內(nèi)容詳細(xì)介紹的是斯坦福大學(xué)的機(jī)器學(xué)習(xí)課件資料免費(fèi)下載。

　　機(jī)器學(xué)習(xí)（Machine Learning， ML）是一門(mén)多領(lǐng)域交叉學(xué)科，涉及概率論、統(tǒng)計(jì)學(xué)、逼近論、凸分析、算法復(fù)雜度理論等多門(mén)學(xué)科。專門(mén)研究計(jì)算機(jī)怎樣模擬或?qū)崿F(xiàn)人類的學(xué)習(xí)行為，以獲取新的知識(shí)或技能，重新組織已有的知識(shí)結(jié)構(gòu)使之不斷改善自身的性能。

　　它是人工智能的核心，是使計(jì)算機(jī)具有智能的根本途徑，其應(yīng)用遍及人工智能的各個(gè)領(lǐng)域，它主要使用歸納、綜合而不是演繹。

　　為了建立供將來(lái)使用的符號(hào)，我們將使用x（i）來(lái)表示“輸入”變量（本例中也稱為輸入特征），以及y（i）來(lái)表示“輸出”或我們正試圖預(yù)測(cè)（價(jià)格）的目標(biāo)變量。我們稱之為訓(xùn)練示例，我們將用來(lái)學(xué)習(xí)的數(shù)據(jù)集-m個(gè)訓(xùn)練示例的列表{（x（i），y（i））；i=1，。..。，M}-被稱為訓(xùn)練集。注意，符號(hào)中的上標(biāo)“（i）”只是訓(xùn)練集中的一個(gè)索引，與十六進(jìn)制無(wú)關(guān)。我們還將使用X表示輸入值的空間，Y表示輸出值的空間。在這個(gè)例子中，x= y= r。

　　為了更正式地描述監(jiān)督學(xué)習(xí)問(wèn)題，我們的目標(biāo)是，給定一個(gè)訓(xùn)練集，學(xué)習(xí)函數(shù)h:X 7_Y，使得h（x）是對(duì)應(yīng)于y值的“好”預(yù)測(cè)器。從圖畫(huà)上看，這個(gè)過(guò)程就是這樣的：

　　當(dāng)我們?cè)噲D預(yù)測(cè)的目標(biāo)變量是連續(xù)的，比如在我們的住房例子中，我們把學(xué)習(xí)問(wèn)題稱為回歸問(wèn)題。當(dāng)y只能呈現(xiàn)少量的離散值時(shí)（比如asif，給定居住面積，我們想預(yù)測(cè)一個(gè)住宅是房子還是公寓），我們稱之為分類問(wèn)題。