AI落地是大家一直在探討的問題，因?yàn)椴还芗夹g(shù)多華麗，最終能否應(yīng)用在人們的日常生活中，才是關(guān)鍵。那么距離AI滲透生活的那天，還有多遠(yuǎn)呢？這當(dāng)中還有什么關(guān)鍵拼圖待補(bǔ)？

隨著Google旗下DeepMind所研發(fā)的人工智能（AI）系統(tǒng)AlphaGo所帶起的一波人工智能熱潮，***沒有錯(cuò)過。

***科技部長(zhǎng)陳良基將2017年訂為***的「人工智慧元年」（小編注：***稱人工智能作人工智能，），從建立「人工智能高速運(yùn)算服務(wù)」、在臺(tái)大、清大、交大、成大設(shè)立「AI創(chuàng)新研究中心」、打造中科與南科的「智能機(jī)器人自造者基地」，到AI計(jì)畫的最后一塊拼圖「半導(dǎo)體射月計(jì)畫」，都是希望強(qiáng)化***半導(dǎo)體產(chǎn)業(yè)于人工邊緣智能（AI Edge Intelligence）的核心技術(shù)競(jìng)爭(zhēng)力和在前瞻半導(dǎo)體制程與人工智能晶片系統(tǒng)研發(fā)。

曾經(jīng)走紅的萬(wàn)物聯(lián)網(wǎng)讓科技產(chǎn)業(yè)認(rèn)為，這就是未來(lái)的智能樣貌，直到AlphaGo擊敗世界棋王，科技圈才發(fā)現(xiàn)人工智能所帶來(lái)的「智能服務(wù)」，才是真正賦予了萬(wàn)物聯(lián)網(wǎng)的背后價(jià)值。

邊緣智能，AI應(yīng)用的最后一里路

事實(shí)上，許多具有傳感器的裝置早就存在我們的生活里，如攝影機(jī)、相機(jī)、喇叭與麥克風(fēng)等也在過去10年左右，數(shù)位化連上網(wǎng)路。但連結(jié)網(wǎng)路攝影機(jī)與網(wǎng)路連接儲(chǔ)存裝置（NAS）所組成的數(shù)位監(jiān)視系統(tǒng)相較于過去閉路式、類比訊號(hào)的監(jiān)視裝置，除了儲(chǔ)存資料數(shù)位化之外，在本質(zhì)上并沒有太大的不同，一樣需要人監(jiān)看、回放，并判斷實(shí)際現(xiàn)場(chǎng)狀況。但當(dāng)人工智能應(yīng)用普及，影像辨識(shí)、語(yǔ)音辨識(shí)轉(zhuǎn)成文字不再遙不可及，網(wǎng)路攝影機(jī)或現(xiàn)場(chǎng)麥克風(fēng)所傳回的資料都可即時(shí)透過自動(dòng)辨識(shí)，判斷畫面中的物體，加上搜集人臉資訊及現(xiàn)場(chǎng)收音，AI都足以自動(dòng)綜合解讀更多現(xiàn)場(chǎng)狀況，讓安防業(yè)者不再需要配置人力長(zhǎng)時(shí)間全神貫注監(jiān)看，僅須排除異常狀態(tài)。

監(jiān)視系統(tǒng)配上人工智能應(yīng)用，仿佛在機(jī)器中加上了靈魂，如果可透過人工智能學(xué)習(xí)不同辨識(shí)內(nèi)容組合的場(chǎng)景意義，并對(duì)應(yīng)相應(yīng)的處理機(jī)制，就賦予數(shù)位監(jiān)視系統(tǒng)協(xié)助安防控制，真正達(dá)成智能化。

然而，要能夠讓攝影機(jī)進(jìn)行影像辨識(shí)，除了可以將影像透過即時(shí)傳輸回主機(jī)上再進(jìn)行計(jì)算判讀外，也可以想辦法透過攝影機(jī)上的處理器，直接計(jì)算進(jìn)行辨識(shí)。前者需要占用大量網(wǎng)路傳輸資源，也有延遲時(shí)間的限制，但如果可以在攝影機(jī)里加上適當(dāng)設(shè)計(jì)、可節(jié)省電力的處理器與作業(yè)系統(tǒng)，直接現(xiàn)場(chǎng)計(jì)算辨識(shí)，不但可以省卻傳輸成本，也能減少辨識(shí)結(jié)果的延遲時(shí)間，加快即時(shí)反應(yīng)?！高吘壷悄堋咕褪侵浮冈谧罱K端裝置上的處理器與全套作業(yè)系統(tǒng)」，也可說(shuō)是人工智能落實(shí)到真實(shí)生活未來(lái)應(yīng)用的最后一哩路。

從訓(xùn)練到推論，晶片是最后一塊拼圖

然而對(duì)企業(yè)來(lái)說(shuō)，深度神經(jīng)網(wǎng)絡(luò)1（Deep Neural Networks，DNNs）所帶起的人工智能浪潮，就如同遙遠(yuǎn)的國(guó)度發(fā)生了大海嘯，要把如今相對(duì)成熟的圖像辨識(shí)、語(yǔ)音辨識(shí)或文本翻譯，放進(jìn)真實(shí)環(huán)境做商業(yè)應(yīng)用仍還有一段距離。

由于深度學(xué)習(xí)2的演算法與相關(guān)應(yīng)用仍在快速演進(jìn)中，無(wú)論是智能城市、智能零售、智能音箱或無(wú)人車等實(shí)際的應(yīng)用場(chǎng)景，仍在大量搜集數(shù)據(jù)，讓深度學(xué)習(xí)演算法學(xué)習(xí)辨別這些資料特征與模式的階段，這個(gè)系統(tǒng)過程稱為訓(xùn)練（Training），讓電腦嘗試從我們所搜集的資料來(lái)學(xué)習(xí)。

訓(xùn)練的過程需要極大的運(yùn)算量，以圖像辨識(shí)為例，要訓(xùn)練電腦模型認(rèn)識(shí)一種特定物體，例如花朵或貓咪，可能需要至少千張、多則超過百萬(wàn)張各種不同角度、不同場(chǎng)景、不同光線下所拍攝的照片，因此這樣的運(yùn)算往往在云端或資料中心進(jìn)行。

如果要求同樣一個(gè)模型要能夠辨識(shí)各種不同品種的貓，除了需要更大數(shù)量的照片，更需要人工對(duì)這些照片中的貓咪品種先進(jìn)行分類標(biāo)注，再交給深度學(xué)習(xí)相關(guān)的演算法進(jìn)行訓(xùn)練，才能得到最終可應(yīng)用的模型。

訓(xùn)練是整個(gè)人工智能應(yīng)用里，最耗計(jì)算資源的工作步驟，所以通常都會(huì)透過繪圖處理器（GPU）所特別擅長(zhǎng)的平行運(yùn)算來(lái)進(jìn)行加速。尤其是現(xiàn)在最熱門、常超過百層、復(fù)雜度極高的深度神經(jīng)網(wǎng)絡(luò)，都會(huì)希望使用特殊可針對(duì)大型矩陣運(yùn)算做平行處理的特殊計(jì)算晶片，來(lái)加速訓(xùn)練過程。然而，人工智能的真實(shí)應(yīng)用往往發(fā)生在終端，無(wú)論是圖像、影像、語(yǔ)音辨識(shí)或文本翻譯，透過深度學(xué)習(xí)所訓(xùn)練出來(lái)的模型如果放在云端，意味著每次應(yīng)用發(fā)生時(shí)，終端首先要傳輸圖片、影像、語(yǔ)音或文本，等云端判讀后再將結(jié)果回傳。就算網(wǎng)路頻寬再大、速度再快，這段傳輸與回傳過程都須占用資源、并造成反應(yīng)時(shí)間延遲。

所以，能夠在終端接收實(shí)體資料，并快速預(yù)測(cè)回應(yīng)的過程稱為推論（Inference）。對(duì)推論來(lái)說(shuō)，在終端應(yīng)用上減除那些對(duì)預(yù)測(cè)不必要的模型，或是合并對(duì)結(jié)果無(wú)足輕重的運(yùn)算，來(lái)縮小計(jì)算規(guī)模非常重要。就算推論相對(duì)不消耗運(yùn)算資源，但多數(shù)推論應(yīng)用仍須特殊計(jì)算晶片加速來(lái)縮短反應(yīng)時(shí)間，也就是說(shuō)，若終端要能進(jìn)行推論，每一臺(tái)裝置上都將以晶片來(lái)加強(qiáng)能力。

陳美如／制作

中西巨頭投入AI晶片開發(fā)，郭臺(tái)銘也要做

今年1月，新創(chuàng)數(shù)據(jù)平臺(tái)CrunchBase所推出的2018年AI市場(chǎng)報(bào)告指出，亞馬遜、Google與微軟等網(wǎng)路公司已經(jīng)主宰了企業(yè)AI這個(gè)市場(chǎng)，三巨頭分別推出的人工智能即服務(wù)（AI as a Service ），已經(jīng)讓機(jī)器學(xué)習(xí)的新創(chuàng)難以獨(dú)立生存。企業(yè)AI需要資料中心級(jí)的大規(guī)模投資，提升每單位電力所能換來(lái)的計(jì)算量，用更小的空間就能帶來(lái)更多的計(jì)算，這是云端服務(wù)商所追求的市場(chǎng)，也給了Google等科技巨頭除了GPU與CPU之外，開發(fā)專為資料中心進(jìn)行深度學(xué)習(xí)加速晶片的好理由。

在Google以TPU這類特殊應(yīng)用邏輯晶片（ASIC）提高人工智能應(yīng)用訓(xùn)練能力的同時(shí)，云服務(wù)業(yè)者也期望將推論應(yīng)用門檻降低，讓推論能力滲透到更多終端應(yīng)用，如此也可以回過頭來(lái)進(jìn)一步拉高訓(xùn)練需求。這也是為什么除了云端服務(wù)巨頭們?nèi)鏔acebook、蘋果，甚至中國(guó)的百度、阿里巴巴都紛紛宣布要發(fā)展自己的AI晶片，連鴻海董事長(zhǎng)郭臺(tái)銘都喊出：「半導(dǎo)體我們自己一定會(huì)做?！?/p>

無(wú)論是訓(xùn)練或推論，深度學(xué)習(xí)所推起的人工智能應(yīng)用需求，無(wú)疑推動(dòng)了許多公司評(píng)估各種晶片解決方案的可能性?！高@將是百家爭(zhēng)鳴的盛會(huì)，是計(jì)算機(jī)架構(gòu)與封裝技術(shù)的復(fù)興，我們將在接下來(lái)1年看到比過去10年更多、更有趣的計(jì)算機(jī)?！褂?jì)算架構(gòu)權(quán)威、加州大學(xué)柏克萊校區(qū)的榮譽(yù)教授大衛(wèi)·帕特森（David Patterson）非常樂觀看待近來(lái)興起的運(yùn)算晶片熱潮。陳良基也非常期待，***若能開發(fā)應(yīng)用在各類智能終端裝置上的關(guān)鍵技術(shù)與元件晶片，將可以使具有半導(dǎo)體制造、設(shè)計(jì)，并能夠整合終端裝置制造供應(yīng)鏈的我們，再次居于世界領(lǐng)先地位。

AI小辭典

深度神經(jīng)網(wǎng)絡(luò)模仿生物神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)所設(shè)計(jì)用以模擬學(xué)習(xí)的數(shù)學(xué)模型，因不同設(shè)計(jì)的復(fù)雜結(jié)構(gòu)，可相疊達(dá)數(shù)百層，而被稱為深度神經(jīng)網(wǎng)絡(luò)。

深度學(xué)習(xí)應(yīng)用各種深度神經(jīng)網(wǎng)絡(luò)所進(jìn)行的機(jī)器學(xué)習(xí)，被認(rèn)為是目前人工智能在商業(yè)應(yīng)用進(jìn)展的重要研究領(lǐng)域。