有幾十個(gè)工程師擠在美國(guó)德州奧斯汀(Austin)近郊重劃區(qū)的咖啡店與美容院之間，探索運(yùn)算技術(shù)的新方向──這是一家名為Mythic的新創(chuàng)公司，目標(biāo)是將神經(jīng)網(wǎng)絡(luò)映射至NOR快閃存儲(chǔ)器陣列，以或許可節(jié)省兩個(gè)數(shù)量等級(jí)功耗的方式來運(yùn)算與儲(chǔ)存資料。

如果他們成功了，這家新創(chuàng)公司就可跳過來自諸如英特爾(Intel)或是其他IP供應(yīng)商、以及眾多富裕中國(guó)新創(chuàng)公司的數(shù)位處理器與核心；這些處理器的目標(biāo)都是進(jìn)駐下一代保全攝影機(jī)、無人機(jī)、工廠設(shè)備等試圖搭上人工智慧(AI)熱潮的嵌入式系統(tǒng)，甚至是未來的自動(dòng)駕駛車輛。

「我們從研究所的時(shí)候就知道，混合訊號(hào)處理很適合這類應(yīng)用；」與同事Mike Henry在密西根大學(xué)(University of Michigan)一起創(chuàng)立Mythic的David Fick表示：「你需要利用其可調(diào)閾值電壓來儲(chǔ)存很大的資料量與快閃存儲(chǔ)器──每個(gè)晶體管都非常具吸引力?！?/p>

Mythic所開發(fā)的快閃存儲(chǔ)器陣列，基本上可免除將資料從外部存儲(chǔ)器移出移入的需要，因此大幅節(jié)省功耗；Fick表示，他的指導(dǎo)教授David Blaauw與Dennis Sylvester「已經(jīng)展開一些快閃存儲(chǔ)器研究，我們也擁有一些專長(zhǎng)技術(shù)，因此能很輕易地加速啟動(dòng)一個(gè)項(xiàng)目?！?/p>

不過要在存儲(chǔ)器中執(zhí)行類比處理器這種有數(shù)十年歷史的老概念是件棘手任務(wù)，F(xiàn)ick表示：「你必須考量很多類比效應(yīng)──不匹配(mismath)、噪聲、溫度，而且存儲(chǔ)器單元也有很多類似的顯著效應(yīng)；」不同于配備經(jīng)過妥善定義之存儲(chǔ)器、處理與儲(chǔ)存子系統(tǒng)的數(shù)位計(jì)算機(jī)，機(jī)器學(xué)習(xí)使用的類比計(jì)算機(jī)基本上是一個(gè)整合性的龐大工程。

「你需要同時(shí)一起設(shè)計(jì)所有的東西，因此需要了解重疊領(lǐng)域的人，例如了解彼此領(lǐng)域的元件端設(shè)計(jì)與神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)工程師；」Fick解釋：「我們?cè)谶@方面已經(jīng)遠(yuǎn)勝于其他人，因?yàn)槲覀儞碛幸粋€(gè)可以完成整個(gè)任務(wù)的超強(qiáng)團(tuán)隊(duì)?！?/p>

確實(shí)，這家公司才剛完成B輪融資、獲得一筆高達(dá)5,000萬美元的資金，有部分原因是他們擁有一個(gè)總監(jiān)等級(jí)(director-level)專家組成的多元團(tuán)隊(duì)，包括來自德州儀器(TI)的類比專家、Microchip的快閃存儲(chǔ)器設(shè)計(jì)總監(jiān)，以及Netronome的實(shí)體設(shè)計(jì)專家。

Mythic也藉由實(shí)現(xiàn)一系列的原型投片逐步展現(xiàn)其技術(shù)進(jìn)展贏得投資者青睞，F(xiàn)ick在學(xué)校里的VLSI設(shè)計(jì)表現(xiàn)就贏得不少聲譽(yù)；他表示：「當(dāng)你以研究所學(xué)生身份設(shè)計(jì)芯片，包括存儲(chǔ)器、合成、設(shè)計(jì)規(guī)則檢查變異(DRC variations)…等所有的步驟都得自己動(dòng)手；而如果你是直接進(jìn)入業(yè)界，你可能永遠(yuǎn)看不到整個(gè)設(shè)計(jì)流程，所以很多從學(xué)校獨(dú)立的新創(chuàng)公司會(huì)更容易成功量產(chǎn)。」

這家公司的兩個(gè)創(chuàng)辦人從小就是「科技宅男」(geek)；Fick在高中時(shí)的第一份工作就是網(wǎng)頁開發(fā)工程師，念研究所時(shí)則進(jìn)入AMD、IBM與Intel等多家大公司當(dāng)實(shí)習(xí)生。Henry則是為了好玩，很愛參加各種快速寫程序競(jìng)賽。

大大小小的競(jìng)爭(zhēng)對(duì)手以及需要克服的軟件障礙

這些日子以來，Mythic的二人組遇到大大小小的競(jìng)爭(zhēng)對(duì)手，至少有40家老牌與新創(chuàng)IP供應(yīng)商或芯片業(yè)者，紛紛表示準(zhǔn)備推出或是正在規(guī)劃某種形式的客戶端AI加速器芯片；這些競(jìng)爭(zhēng)對(duì)手還包括中國(guó)幾家財(cái)力雄厚的新創(chuàng)公司，例如地平線(Horizon Robotics)就是其中最具潛力的一家，已經(jīng)用較傳統(tǒng)的數(shù)位架構(gòu)推出低功耗客戶端AI加速器。

還有一家美國(guó)新創(chuàng)公司Syntiant，跟Mythic一樣在開發(fā)利用快閃存儲(chǔ)器的存儲(chǔ)器內(nèi)處理器(processor-in-memory)架構(gòu)，該公司的團(tuán)隊(duì)成員包括幾位Broadcom前任工程經(jīng)理，并獲得了Intel Capital的支持。此外IBM Research也正在研究以電阻式RAM (ReRAM)為基礎(chǔ)的機(jī)器學(xué)習(xí)加速器，但Fick認(rèn)為該公司采用了錯(cuò)誤的方法。

他表示：「他們正在嘗試以完美的存儲(chǔ)器來讓所有事情變得簡(jiǎn)單，但我們是透過共同設(shè)計(jì)所有東西取得領(lǐng)先…就算他們找到了理想存儲(chǔ)器，總是會(huì)有一種不太完美的存儲(chǔ)器可以支援更低功耗或是更快速度?！?/p>

創(chuàng)新的平行存儲(chǔ)器在歷史上總因?yàn)樘y編程而失敗，新興的存儲(chǔ)器內(nèi)處理器芯片肯定也會(huì)面臨相同的問題，因?yàn)闄C(jī)器學(xué)習(xí)本身需要全新的、仍在發(fā)展的編程模型。Mythic的工具雖名為開發(fā)平臺(tái)，但扮演的角色象是編譯器，能為其芯片將TensorFlow數(shù)據(jù)庫(kù)內(nèi)描述的神經(jīng)網(wǎng)絡(luò)轉(zhuǎn)換為機(jī)器語言。

Fick表示，該開發(fā)平臺(tái)采用PCI Express與芯片連結(jié)，能提供「如何從芯片取得額外性能的提示，以及一些常見應(yīng)用的最佳化網(wǎng)絡(luò)范例?！瓜胍褂肨ensorFlow以外其他框架的客戶，顯然會(huì)需要使用ONNX格式來轉(zhuǎn)譯其任務(wù)；ONNX (Open Neural Network Exchange)是少數(shù)幾種用來轉(zhuǎn)譯幾個(gè)不同AI軟件架構(gòu)的新興工具之一。

而Fick也充分體認(rèn)到他的客戶所面臨之軟件障礙：「為了進(jìn)入這個(gè)領(lǐng)域，你需要聘請(qǐng)幾個(gè)深度學(xué)習(xí)科學(xué)家，但這類專家因?yàn)榉浅６倘?、費(fèi)用也非常昂貴 …建立資料集與神經(jīng)網(wǎng)絡(luò)并進(jìn)行訓(xùn)練非常耗時(shí)、代價(jià)也很高…這些都是冒險(xiǎn)進(jìn)軍且投資此領(lǐng)域的限制?！?/p>

好消息是，與競(jìng)爭(zhēng)對(duì)手方案相較，Mythic芯片的存儲(chǔ)器陣列應(yīng)該能處理更多樣化的卷積(convolutional)或歸遞(recurrent)神經(jīng)網(wǎng)絡(luò)，而且其性能的提升可望實(shí)現(xiàn)在功耗受限制的邊緣系統(tǒng)執(zhí)行更復(fù)雜模型。

Mythic有幾個(gè)重量級(jí)合作伙伴，例如洛克希德馬丁(Lockheed Martin)希望未來的無人機(jī)能使用該公司芯片，富士通(Fujitus)則是該公司的快閃存儲(chǔ)器供應(yīng)商。到目前為止，有兩種應(yīng)用似乎超出其能力范圍，一個(gè)是預(yù)算只有幾美元的智慧音箱，與Mythic的目標(biāo)應(yīng)用相較太過需要控制成本；另一個(gè)是自動(dòng)駕駛車輛，因?yàn)樾枰囉玫燃?jí)規(guī)格，是該公司目前無法負(fù)擔(dān)的。

這家新創(chuàng)公司預(yù)計(jì)在今年底推出40奈米制程芯片，這個(gè)節(jié)點(diǎn)可支援嵌入式快閃存儲(chǔ)器單元設(shè)計(jì)，也符合低成本目標(biāo)。Fick指出，其快閃存儲(chǔ)器單元已通過28奈米制程質(zhì)量認(rèn)證，這會(huì)是該公司的下一步；在那之后，晶圓代工業(yè)者正在開發(fā)嵌入式MRAN與ReRAM單元。

Fick表示：「沒有任何理由能阻止我們前進(jìn)最小節(jié)點(diǎn)，我們能從制程微縮中受益；」而如果Mythic成功了，并不會(huì)是因?yàn)槟柖?Moore’s Law)或是那些數(shù)位處理器使他們受到歡迎，而會(huì)是因?yàn)樗麄儗⑦\(yùn)算技術(shù)推往一個(gè)全新的方向。