2018年，AI的大主題是“行業(yè)落地”，AI的多元場景呼喚更加專精的硬件，一股“AI芯片”創(chuàng)業(yè)浪潮興起，涌現(xiàn)了寒武紀(jì)、地平線、深鑒、耐能、比特大陸等明星創(chuàng)業(yè)公司。傳統(tǒng)上非芯片領(lǐng)域的科技巨頭如Google、百度、阿里也紛紛布局AI芯片。

根據(jù)騰訊研究院發(fā)布的《中美兩國人工智能產(chǎn)業(yè)發(fā)展全面解讀》，2017 年美國已有33家芯片新創(chuàng)公司，中國有14家。這在多年來都是“巨頭游樂場”的芯片行業(yè)是一個驚人的數(shù)字。

今天「甲子光年」的公司案例分析，聚焦一家2017年6月成立于硅谷，尚未在公開報(bào)道中亮相過的AI芯片公司“龍加智”（ DinoPlusAI），它有兩大特點(diǎn)：一是定義了特定需求下的芯片新類型——“關(guān)鍵任務(wù)芯片”；二是團(tuán)隊(duì)突出的工程能力——匯聚了15位在硅谷有多年一線工程經(jīng)驗(yàn)的芯片工程師。

龍加智天使輪投資機(jī)構(gòu)翊翎資本董事長王斌評價：“是否有足夠成熟、穩(wěn)定的工程經(jīng)驗(yàn)，是判斷一個芯片項(xiàng)目的核心。所以我們選擇了龍加智。”

新物種：“關(guān)鍵任務(wù)”AI芯片

2017年3月，浦東張江。龍加智的創(chuàng)始人胡遇杰定好了目標(biāo)：如果三個月內(nèi)招到滿意的芯片工程師，就把公司芯片研發(fā)團(tuán)隊(duì)定在上海。

17年前，在上海交通大學(xué)念完自動化控制碩士的胡遇杰進(jìn)入中興上海第二研究所工作。2003年2月，交大微電子學(xué)院院長陳進(jìn)教授發(fā)布了中國第一個完全擁有自主知識產(chǎn)權(quán)的DSP芯片（數(shù)字信號微處理器）——漢芯一號。

這直接激發(fā)了胡遇杰對芯片的興趣，他由此知道，原來國內(nèi)一直沒有自主研發(fā)芯片的核心能力，技術(shù)比國外落后三十年，他申請了美國半導(dǎo)體方向的博士，立志要學(xué)一身本領(lǐng)。

2006年，已在美國愛立信成為一名芯片設(shè)計(jì)工程師的胡遇杰震驚得知，曾讓國人備受鼓舞的“漢芯一號”，是陳進(jìn)將摩托羅拉的芯片用砂紙磨去logo，騙取上億經(jīng)費(fèi)的造假事件。

扼腕之余，胡遇杰更加扎實(shí)地投入到一線的工程工作中，從2005到2016年，他先后在愛立信、博通、Cadence工作，分別從事數(shù)據(jù)中心多核網(wǎng)絡(luò)處理器芯片、數(shù)據(jù)中心硬件流水線交換機(jī)芯片、DSP內(nèi)核的核心研發(fā)。

他在愛立信參與開發(fā)的芯片廣泛應(yīng)用在愛立信邊界路由器上，被美國通訊公司AT&T大量采用；他在博通參與開發(fā)的Trident/Tomahawk系列芯片占據(jù)了全球數(shù)據(jù)中心交換芯片80%以上的市場份額；他在Cadence參與開發(fā)的Tensilica DSP內(nèi)核是全球最流行最靈活的DSP內(nèi)核，被微軟等公司集成到高性能、低功耗的芯片產(chǎn)品中。

這三種芯片各有技術(shù)側(cè)重：“多核網(wǎng)絡(luò)處理器”包含幾百顆CPU內(nèi)核，CPU核和硬件引擎通過片上網(wǎng)絡(luò)連接，架構(gòu)復(fù)雜又具有靈活性；“數(shù)據(jù)中心硬件流水線網(wǎng)絡(luò)處理器”強(qiáng)調(diào)高速、高密度和低時延；而“DSP內(nèi)核”要求性能和拓展性的同時極度重視功耗和面積。

2015-2016年，人工智能和無人駕駛漸漸興起。胡遇杰注意到，有客戶把他們的DSP應(yīng)用在無人駕駛場景。

順著這種應(yīng)用思路深究，這一輪AI芯片的開發(fā)競賽，一個明顯趨勢是AI應(yīng)用場景的多元化要求硬件也更加“專精”化——需求倒逼芯片，芯片最終要為場景服務(wù)，而不再是通用架構(gòu)壟斷一切，這是目前AI芯片產(chǎn)生新商業(yè)機(jī)會的底層邏輯。

但現(xiàn)有的解決方案中，不管是被英偉達(dá)把持的GPU還是各家創(chuàng)業(yè)公司發(fā)力的ASIC（專用集成電路，AI芯片中的ASIC指專門對AI算法進(jìn)行優(yōu)化的AISC），都忽視或無法滿足一些關(guān)鍵場景下的需求。

第一，是對低時延和低“時延抖動”（單次請求的時延波動值）的需求。目前AI芯片普遍有幾毫秒的延遲。在一些場景下，延遲可能會造成重大的問題。在自動駕駛中，幾毫秒的延時反應(yīng)可能造成車毀人亡；在同聲傳譯中，時延和時延抖動將極大影響體驗(yàn)。

第二，對高可靠性的需求。目前對宕機(jī)情況下的數(shù)據(jù)保護(hù)，一般用軟件方案來解決；然而，軟件方案速度慢，數(shù)據(jù)有丟失、出錯的風(fēng)險(xiǎn)。

第三，對數(shù)據(jù)安全的需求。多個虛擬機(jī)之間的隔離，目前也是用軟件方案解決，有數(shù)據(jù)泄露的風(fēng)險(xiǎn)。

胡遇杰把以上需求定義為關(guān)鍵任務(wù)：相比其他情況，以上問題造成的后果極為嚴(yán)重，因此需要更強(qiáng)大的保障，這就呼喚一種新的芯片類型——低時延、高可靠的“關(guān)鍵任務(wù)芯片”（Mission-Critical AI Processor）。龍加智的第一代“關(guān)鍵任務(wù)芯片”被命名為“Dino-TPU”，將最先應(yīng)用于云端的數(shù)據(jù)中心場景。

胡遇杰的設(shè)計(jì)思路和云腦科技創(chuàng)始人張本宇的需求不謀而合。

張本宇有19年人工智能和大數(shù)據(jù)研發(fā)經(jīng)驗(yàn)，先后就職于微軟亞研院、Google和Facebook。2015年，張本宇創(chuàng)立了云腦科技，為行業(yè)用戶提供AI技術(shù)平臺。云腦科技的業(yè)務(wù)目前主要覆蓋通信、金融監(jiān)管、人才教育和能源制造四個領(lǐng)域，其合作伙伴包括中國銀聯(lián)、上海證券交易所、浪潮軟件集團(tuán)、中國電信、中海油等。

張本宇告訴「甲子光年」，云腦科技深耕的金融領(lǐng)域?qū)?shí)時性要求特別高，目前的主流GPU更適合做批量處理任務(wù)，但并沒有對單個請求的延時性做優(yōu)化，所以在做推理任務(wù)時，單個請求的延時性較長且“時延抖動”大，這不利于金融監(jiān)管場景下及時作出阻斷和預(yù)警。

“未來，我們要做到把現(xiàn)在使用GPU的場景全部替換成龍加智的TPU，云腦會聯(lián)合龍加智為合作伙伴提供軟硬結(jié)合的整體方案，同時我們也可以攜手拓展更多場景?！睆埍居钫f。

一線工程師組團(tuán)突圍

從上海出發(fā)，又想回到上海創(chuàng)業(yè)的胡遇杰最終未能如愿。因?yàn)樗l(fā)現(xiàn)，在上海無法完成自己的最初設(shè)想——“招到滿意的芯片工程師”。

胡遇杰對“滿意的工程師”的定義是：至少有一個大芯片從頭到尾的設(shè)計(jì)經(jīng)驗(yàn)，有一次性流片成功的經(jīng)驗(yàn)。但這樣的人在國內(nèi)太難找了。

知乎上，一位名叫“Yufeng Bai”的IC設(shè)計(jì)工程師說道：“在數(shù)字邏輯設(shè)計(jì)能力方面，國內(nèi)公司和國外公司差別不大，國外能做的國內(nèi)公司一樣能做。而最大的區(qū)別在于經(jīng)驗(yàn)，犯錯的經(jīng)驗(yàn)。能用和做好是不一樣的?！?/p>

胡遇杰告訴「甲子光年」，在硅谷，芯片設(shè)計(jì)采用 “師徒制”。 師父手把手帶徒弟，幾十年代代傳承，積累了大量芯片制造的工程師智慧。這也是美國芯片行業(yè)相比中國的一大優(yōu)勢所在：大量經(jīng)驗(yàn)豐富、從業(yè)年限較長的一線工程師，能把芯片復(fù)雜的設(shè)計(jì)、實(shí)現(xiàn)、驗(yàn)證和調(diào)試過程落到實(shí)處。

胡遇杰最終無功而返，并于6月在硅谷重新組建團(tuán)隊(duì)，創(chuàng)立了現(xiàn)在的龍加智。目前，除有豐富芯片設(shè)計(jì)經(jīng)驗(yàn)的胡遇杰本人外，龍加智還匯聚了15位在硅谷有15年以上經(jīng)驗(yàn)的芯片工程師，成立一年來，無一人離職。

團(tuán)隊(duì)中有畢業(yè)于卡耐基梅隆大學(xué)，有20多年網(wǎng)絡(luò)處理器芯片設(shè)計(jì)經(jīng)驗(yàn)、擁有11項(xiàng)專利的Ken Chin。他曾幫助TeraBlaze公司設(shè)計(jì)一款芯片，該公司后被杰爾系統(tǒng)收購。

同樣擁有11項(xiàng)專利的Cliff Gold是寬帶互聯(lián)網(wǎng)軟件提供商2Wire的ASIC技術(shù)總監(jiān)，管理過70多人的芯片設(shè)計(jì)團(tuán)隊(duì)。

前同事王曉松則是博通的高級主任芯片設(shè)計(jì)工程師，參與博通旗艦產(chǎn)品Trident/Tomhark 的設(shè)計(jì)，對datapath延遲和性能進(jìn)行優(yōu)化。

龍加智的天使輪投資機(jī)構(gòu)為摯信資本和翊翎資本。翊翎資本董事長王斌告訴「甲子光年」，“是否有足夠成熟、穩(wěn)定的工程經(jīng)驗(yàn)，是我們判斷一個芯片項(xiàng)目的核心?！?/p>

翊翎資本已布局了人工智能領(lǐng)域的數(shù)據(jù)、算力、算法、應(yīng)用、平臺、安全等相對完整的產(chǎn)業(yè)鏈，投資了十幾家公司，如云腦科技、聚合數(shù)據(jù)、泰迪熊智能等。

王斌說，龍加智有兩大核心價值最打動他：一是“關(guān)鍵任務(wù)芯片”的設(shè)計(jì)思路，且團(tuán)隊(duì)已對核心技術(shù)提交專利申請；通過對自己所投AI公司的需求的了解，翊翎資本確認(rèn)了“關(guān)鍵任務(wù)”的必要性——如工業(yè)等重要場景下，不僅追求算力、功耗，也對穩(wěn)定性和低時延有很高要求。

第二就是團(tuán)隊(duì)強(qiáng)大的工程能力，“他們很接地氣，都是一線工程師出身，有成熟經(jīng)驗(yàn)。我們判斷，龍加智的落地性會更好。”王斌認(rèn)為，對龍加智來說，做AI芯片不是摸索前行，而是把多年積累的經(jīng)驗(yàn)成果輸出。

目前，龍加智已啟動新一輪融資，同時接觸國內(nèi)外的投資者。王斌在溝通中發(fā)現(xiàn)，國內(nèi)外投資機(jī)構(gòu)判斷一個芯片團(tuán)隊(duì)是否有能力的時間點(diǎn)不太一樣。

他告訴「甲子光年」，國內(nèi)很多機(jī)構(gòu)會把AI芯片團(tuán)隊(duì)是否流片成功當(dāng)做一個重要時間點(diǎn)，流片成功了，就敢給高估值；但芯片是需要不斷迭代的，流片成功只是證明了基礎(chǔ)能力。國外機(jī)構(gòu)則敢于在更早期做判斷，判斷依據(jù)是團(tuán)隊(duì)以往的背景及接下來對市場需求的把控。王斌把國內(nèi)投資者“不敢判斷”歸結(jié)于中國半導(dǎo)體行業(yè)工程能力、工程氛圍長期落于人后。

“都等流片成功了，那還有早期投資人的機(jī)會嗎？”王斌表態(tài)，翊翎資本將在新一輪融資中繼續(xù)投資龍加智，“我們很有信心?！?/p>

從第一天起就軟硬兼?zhèn)?/p>

由于AISC需要針對AI算法做加速和優(yōu)化，需求→算法→芯片層層傳導(dǎo)，一家聲稱要做AI芯片的公司一定要同時具備硬件和軟件兩類資深人才。

在胡遇杰的設(shè)計(jì)思路中，龍加智的“Dino-TPU”還具備二次開發(fā)的能力，可以適用多個人工智能場景，這也需要團(tuán)隊(duì)內(nèi)有精通算法能力、軟件能力的牛人。

所以胡遇杰創(chuàng)業(yè)時，第一個想到的人不是芯片工程師，而是精通算法的吳彤。

吳彤與胡遇杰研究生時同一個學(xué)院，住同一層宿舍，在硅谷的十多年來也一直互相照應(yīng)。吳彤畢業(yè)于上海交大試點(diǎn)班，成績名列前茅；他曾參與亞馬遜Echo的早期開發(fā)，擔(dān)任過思科資深技術(shù)領(lǐng)導(dǎo)、軟件架構(gòu)師。吳彤成了龍加智的聯(lián)合創(chuàng)始人和首席軟件架構(gòu)師。

龍加智也邀請了云腦科技創(chuàng)始人張本宇和清華大學(xué)電子工程系博士生導(dǎo)師歐智堅(jiān)擔(dān)任算法顧問。

張本宇告訴「甲子光年」，他現(xiàn)在會定期和龍加智方面交流，分享算法的前沿發(fā)展，及其對芯片設(shè)計(jì)的機(jī)會和挑戰(zhàn)。不同場景的不同算法，對芯片的性能側(cè)重有差異化要求，有的場景看中低時延，有的場景則看中高穩(wěn)定性。

在具體的研發(fā)設(shè)計(jì)過程中，龍加智采取了“軟硬件并行開發(fā)”的工程安排。即在ASIC流片前的硬件設(shè)計(jì)、驗(yàn)證階段，同時用可重復(fù)燒錄的FPGA做軟件系統(tǒng)的開發(fā)平臺。這其中的關(guān)鍵是做好軟件和硬件的任務(wù)分解，清晰知道哪些任務(wù)劃給軟件，哪些劃給硬件。長期的芯片工程經(jīng)驗(yàn)讓團(tuán)隊(duì)能快速、清楚地做出拆分判斷。

在開發(fā)生態(tài)層面，龍加智的Dino-TPU提前考慮了兼容性。Dino-TPU同時支持TensorFlow和Caffe兩大主流開源框架。用戶也可以使用龍加智自己的SDK（軟件開發(fā)工具包）來開發(fā)芯片應(yīng)用。

創(chuàng)始人的芯片工程師硬件背景，加聯(lián)合創(chuàng)始人的軟件背景，龍加智成立之初就是一家軟硬兼?zhèn)涞腁I芯片公司。

“龍加智未來將有很多可延展性?！瘪呆豳Y本王斌評價。

快節(jié)奏背后的工程力量

組建好團(tuán)隊(duì)的龍加智迅速出發(fā)，用吳彤的話說是“節(jié)奏很快”。

團(tuán)隊(duì)的溝通方式扁平、公開，每個人都會坦誠自己的看法，不一致的地方就一起討論和沙盤推演，他們很快定義出了實(shí)現(xiàn)“關(guān)鍵任務(wù)芯片”低時延、高可靠的技術(shù)路線——

高可靠，是通過冗余設(shè)計(jì)，實(shí)現(xiàn)納秒級錯誤檢測和錯誤恢復(fù)能力，保障芯片不宕機(jī)，數(shù)據(jù)不丟失，并以硬件加軟件的解決方案，來支持虛擬化后用戶之間的隔離；低時延則是通過片上大量內(nèi)存的架構(gòu)，提供很高的memory帶寬。

龍加智開發(fā)的第一款架構(gòu)完美達(dá)到了胡遇杰的設(shè)想：

主要AI芯片性能、時延、冗余設(shè)計(jì)與Dino-TPU的對比

根據(jù)測算，“Dino-TPU”算力超過了除最新款Volta之外的所有GPU；時延僅為英偉達(dá)Volta V100的十分之一；功耗僅為75W，且可根據(jù)實(shí)際需求用軟件調(diào)節(jié)；而冗余備份和數(shù)據(jù)安全保障，是市場上的AI芯片中獨(dú)有的。

目前，團(tuán)隊(duì)已提交了8項(xiàng)專利申請，保護(hù)核心技術(shù)，接下來將和業(yè)內(nèi)企業(yè)合作推動關(guān)鍵任務(wù)芯片的行業(yè)標(biāo)準(zhǔn)，這將進(jìn)一步給公司帶來專利收益。

值得注意的另一個情況是，按照龍加智的開發(fā)計(jì)劃，他們將在2018年底完成第一款A(yù)SIC的流片。這意味著從設(shè)計(jì)到流片才一年半時間，是一個超過行業(yè)一般情況的數(shù)字，快到讓人懷疑。

“我在中國融資的時候，說流片100%成功，他們覺得我在吹牛。后來我就說99%、97%可以成功?！焙鼋苷f，質(zhì)疑是因?yàn)榇蠖鄶?shù)行外人不理解工程經(jīng)驗(yàn)的力量。

他告訴「甲子光年」，快是因?yàn)閮蓚€工程安排，一是上文提到過的“軟硬件并行開發(fā)”，這能縮短設(shè)計(jì)周期；二是“模塊化開發(fā)”。

模塊化開發(fā)能最大程度確?！耙淮涡哉_”。經(jīng)驗(yàn)豐富的工程師，在設(shè)計(jì)時，腦中就會考慮這個架構(gòu)是否容易被驗(yàn)證，會預(yù)判corner case（邊角案例，指特殊情況）和哪里可能出錯。

把任務(wù)拆解為簡潔、明了、可靠、可復(fù)用的小模塊，就是掌控corner case、清楚知道“邊界”的方法之一。模塊化設(shè)計(jì)將縮短驗(yàn)證時間。有的團(tuán)隊(duì)在設(shè)計(jì)時經(jīng)驗(yàn)不足，導(dǎo)致驗(yàn)證環(huán)節(jié)依賴大量隨機(jī)測試，不停冒出bug，這才把周期拉長。

“所以為什么別人問我流片要幾次？我說肯定只有一次。如果一個架構(gòu)師做的東西要流兩次片，那他以后找工作就難了，更別說流三次?！焙鼋苷f。

未來的征途是行業(yè)落地

今年4月，龍加智Dino-TPU已完成demo測試，進(jìn)入為流片做準(zhǔn)備的環(huán)節(jié)。到目前為止，開發(fā)計(jì)劃未出現(xiàn)延遲。

接下來公司發(fā)展的三件大事是：流片、新一輪融資和組建國內(nèi)團(tuán)隊(duì)。

龍加智團(tuán)隊(duì)將按部就班地走完開發(fā)流程，按計(jì)劃流片。

組建國內(nèi)團(tuán)隊(duì)則關(guān)系著未來的商業(yè)化。中國有龐大的AI市場空間，且正處于各產(chǎn)業(yè)科技升級的大浪潮中。

王斌指出，在FPGA已經(jīng)開發(fā)完畢，流片之前的階段，龍加智團(tuán)隊(duì)需要進(jìn)一步做“產(chǎn)業(yè)鏈磨合”，補(bǔ)充、加強(qiáng)和目標(biāo)客戶做溝通的能力及團(tuán)隊(duì)，然后根據(jù)需求對設(shè)計(jì)進(jìn)行相應(yīng)微調(diào)。在這個過程中，云腦科技等公司可以和龍加智開展深度合作，產(chǎn)生協(xié)同效應(yīng)。

從整個AI芯片創(chuàng)業(yè)賽道來看，先入場的玩家紛紛到了切進(jìn)應(yīng)用場景的階段。如地平線聚焦自動駕駛和安防；深鑒做數(shù)據(jù)中心和安防，同時發(fā)力云端和終端；寒武紀(jì)著重發(fā)力云端訓(xùn)練；西井科技在芯片之外，開發(fā)了港口自動駕駛應(yīng)用產(chǎn)品，深挖智慧港口服務(wù)。AI芯片未來真正的機(jī)會和競爭將發(fā)生在商業(yè)系統(tǒng)層面。

“今年很多公司都會流片，大家會往各個場景里沉。因?yàn)閳鼍靶枨蟮牟町惢?，AI芯片的未來肯定不是CPU時代的一家獨(dú)大?！蓖醣笳f。

目前，龍加智的“關(guān)鍵任務(wù)芯片”已在美國市場激起了一些水花。美國老牌芯片后端服務(wù)公司eSilicon，積極幫助龍加智對接美國投資機(jī)構(gòu)，以期后續(xù)展開更多合作。eSilicon此前合作過的公司還包括被Intel收購的Nervana等。

“低時延”的特點(diǎn)，也打動了美國網(wǎng)絡(luò)安全公司FireEye的工程負(fù)責(zé)人，兩家公司已初步對接了后續(xù)合作意向。

組建中的國內(nèi)團(tuán)隊(duì)未來將給龍加智的商業(yè)化發(fā)展帶來更多期待。

其實(shí)這其中還有一層胡遇杰的“私心”—— 他希望回到中國的龍加智，能夠?yàn)橹袊酒囵B(yǎng)出一批真正優(yōu)秀的工程師，幫助推動行業(yè)工程水平的發(fā)展、推動對工程的重視。

這不僅是這家名字里帶“龍”字的公司的創(chuàng)立初衷之一；也是17年前，去國離鄉(xiāng)的那個年輕人的初心。