摩爾定律落幕，云平臺興起，5G帶動(dòng)將讓互聯(lián)網(wǎng)上流轉(zhuǎn)更多高清視頻，邊緣計(jì)算也成為海量數(shù)據(jù)下的必然產(chǎn)物。海量流媒體數(shù)據(jù)需要編碼、轉(zhuǎn)碼，ASIC將扮演越來越重要的角色。本文由LiveVideoStack對NETINT Co-founder & COO劉偉的采訪整理而成。

LiveVideoStack：劉偉你好，簡單介紹下自己的工作經(jīng)歷，以及在NETINT負(fù)責(zé)的工作內(nèi)容和專注的領(lǐng)域。

劉偉：我在NETINT任COO一職，主要負(fù)責(zé)公司的運(yùn)營、Product Management以及市場和銷售部分。在此之前，是在PMC-Sierra從事企業(yè)存儲芯片的研發(fā)項(xiàng)目的項(xiàng)目管理工作。在NETINT現(xiàn)在有兩個(gè)關(guān)注點(diǎn)，一是如何推動(dòng)現(xiàn)有的Codesnity系列視頻轉(zhuǎn)碼芯片和PCIe 4.0 NVMe SSD在全球市場的推廣。另一方面，是如何構(gòu)筑一個(gè)北美和中國的協(xié)同開發(fā)、支持體系，為今后的發(fā)展奠定一個(gè)結(jié)實(shí)的基礎(chǔ)。

LiveVideoStack：我們知道芯片設(shè)計(jì)有非常高的門檻，資金投入大，回報(bào)周期長，不過一旦成功，回報(bào)亦很大。您怎么看待芯片設(shè)計(jì)行業(yè)的這一特點(diǎn)？又是什么支持您堅(jiān)守這一領(lǐng)域的這么久的？

劉偉：芯片行業(yè)的確有非常高的門檻，尤其是我們所在SoC領(lǐng)域，一個(gè)項(xiàng)目動(dòng)輒投資幾千萬美金甚至上億美金。項(xiàng)目的周期也非常長，從設(shè)計(jì)、驗(yàn)證、流片、到系統(tǒng)完備需要幾年的時(shí)間。 設(shè)計(jì)復(fù)雜的SoC需要一個(gè)完整的團(tuán)隊(duì)，在一個(gè)典型系統(tǒng)之中，包含有多個(gè)不同的子系統(tǒng)和功能模塊，每一個(gè)模塊都需要有積累足夠深厚、能夠高質(zhì)量完成設(shè)計(jì)和驗(yàn)證的團(tuán)隊(duì)，少了誰都不行。在這方面，我們有一個(gè)近80人的成建制的研發(fā)團(tuán)隊(duì)，并且有多年的經(jīng)驗(yàn)積累，我們的架構(gòu)師都有20年以上的企業(yè)級芯片設(shè)計(jì)經(jīng)驗(yàn)，工程師平均也有17年以上的專業(yè)工作經(jīng)驗(yàn)。

芯片行業(yè)經(jīng)歷過幾次高潮和低潮，隨著摩爾定律的落幕以及大型云平臺的興起，現(xiàn)在又進(jìn)入了一個(gè)（初創(chuàng)）芯片企業(yè)的黃金時(shí)期。在很長一段時(shí)間內(nèi)，芯片業(yè)競爭的重點(diǎn)是比誰先進(jìn)入下一個(gè)技術(shù)節(jié)點(diǎn)，65nm, 40nm, 28nm一路到16nm甚至7nm。隨著接近物理的極限，進(jìn)一步縮小技術(shù)節(jié)點(diǎn)的難度越來越大，成本也越來越高。 另一方面，隨著大型云服務(wù)平臺的興起， 很多應(yīng)用在云平臺有很高的服務(wù)密度，通用計(jì)算的能力遠(yuǎn)遠(yuǎn)沒法滿足需求，必須要采用專用芯片進(jìn)行加速；另一方面由于需求密度之高，對于一個(gè)云平臺而言，通過設(shè)計(jì)/采用專用芯片來提高效率，在成本上也開始變得有利可圖。在這個(gè)背景下，很多芯片初創(chuàng)企業(yè)開始涌現(xiàn)。AI由于市場話題熱度比較高，可能大家聽到的AI芯片初創(chuàng)公司會比較多。我們則獨(dú)辟蹊徑，定位在了Computational Storage和視頻編解碼領(lǐng)域。相對于被熱捧的AI，我們更關(guān)注如何在可預(yù)期的時(shí)間內(nèi)，為客戶賦能，踏踏實(shí)實(shí)的為客戶真正帶來更多的價(jià)值，畢竟，這才是一個(gè)企業(yè)存在的價(jià)值。

我們的努力已經(jīng)開始得到了回報(bào)，我們已經(jīng)北美、歐洲、中國的云數(shù)據(jù)中心、電信運(yùn)營商、廣播電視公司、視頻平臺、視頻監(jiān)控等領(lǐng)域開始了廣泛的合作。我們也很榮幸的獲得了NAB 2019年度產(chǎn)品的提名。如果有LiveVideoStack的朋友準(zhǔn)備到Las Vegas參加這屆NAB Show的話，我也很希望能夠借這次機(jī)會能夠認(rèn)識更多的朋友，做更為深入的交流。

LiveVideoStack：ASIC擁有最好的性能，但靈活性最差。只有當(dāng)市場預(yù)期足夠大時(shí)，ASIC的優(yōu)勢才能得以發(fā)揮。您和您的團(tuán)隊(duì)如何判斷服務(wù)端視頻編碼市場的？ASIC將占據(jù)多少份額？

劉偉：IP視頻市場近些年來在經(jīng)歷一個(gè)蓬勃發(fā)展的時(shí)期，Cisco Visual Networking Index (VNI)報(bào)告中指出，IP視頻已經(jīng)占到了整個(gè)互聯(lián)網(wǎng)視頻流量的79%，并還在不斷增加。到2021年，超高清（Ultra HD）將會在IP視頻流量中占到20.7%的比重。從2016年到2021年，Internet上視頻監(jiān)控流量會增加7倍。根據(jù)世界經(jīng)濟(jì)論壇2017年9月的預(yù)測，沉浸式媒體，包括AR和VR，在2025年將成長為一個(gè)950億美金的市場。與此同時(shí)，還有很多新的服務(wù)在不斷涌現(xiàn)出來，比如現(xiàn)在大熱的Cloud Gaming市場。 這些都不可避免的要求高效率的服務(wù)器端視頻編碼。而傳統(tǒng)的軟件編碼方式，已經(jīng)無法應(yīng)對這些需求帶來的爆炸式的算力需求增長。專用的ASIC解決方案是一個(gè)必然的選擇。

還有一個(gè)非常適合的領(lǐng)域是邊緣計(jì)算場景下的應(yīng)用。視頻，尤其是高清和沉浸式媒體（AR及VR）是5G的一個(gè)典型應(yīng)用。從客戶體驗(yàn)上來說，為了減少Latency并提供接近實(shí)時(shí)的反應(yīng)速度，大量的視頻加工、分析、編碼在需要放到EDGE端來進(jìn)行。從經(jīng)濟(jì)效益角度分析，在5G環(huán)境下，由于終端節(jié)點(diǎn)眾多，在終端節(jié)點(diǎn)進(jìn)行處理，從而避免數(shù)據(jù)洪流大量回傳到主干網(wǎng)絡(luò)中，是最為合理的一個(gè)選擇。在具體設(shè)計(jì)實(shí)施時(shí)，MEC（移動(dòng)邊緣計(jì)算）的設(shè)計(jì)在空間、功耗、空調(diào)需求、甚至重量上都有很多的限制。因此亟需一個(gè)高性能、低功耗、小尺寸、易維護(hù)的方案。 在邊緣計(jì)算場景下使用專用芯片設(shè)計(jì)，尤其是像NETINT Codensity這一類具備Computational Storage架構(gòu)優(yōu)點(diǎn)的芯片就是一個(gè)非常好的選擇。

ASIC方案有最好的性能，這個(gè)毋庸置疑，但談到靈活性最差，其實(shí)是從過去時(shí)代遺留到現(xiàn)在的一個(gè)誤解。過去常見的編解碼芯片是集成到consumer client端設(shè)備當(dāng)中的，比如攝像頭、機(jī)頂盒、智能電視中。這樣的芯片僅能處理video in，video out，靈活性很差，與現(xiàn)在數(shù)據(jù)中心客戶廣泛采用的其他系統(tǒng)之間無法直接交互。 與此不同的是，我們的芯片在設(shè)計(jì)之初就是為了在云數(shù)據(jù)中心、服務(wù)器端采用的。為此，做了很多創(chuàng)新的設(shè)計(jì)。從芯片架構(gòu)的層次，我們在全球率先采用了先進(jìn)的Computational Storage架構(gòu)，視頻編解碼全部通過標(biāo)準(zhǔn)的NVMe interface來處理，硬件上采用存儲產(chǎn)品中廣泛采用U.2 formfactor。這樣做的好處是不用任何特殊設(shè)計(jì)的服務(wù)器，也不用更新Linux kernel，不用裝特殊的驅(qū)動(dòng)，基本上做到了即插即用。這樣極大的降低了運(yùn)維人員安裝和維護(hù)的難度，可以在云數(shù)據(jù)中快速的廣泛使用。

當(dāng)我們在全球最先推出數(shù)據(jù)中心級視頻編解碼ASIC時(shí)，確實(shí)很多人還在猶豫ASIC編碼與軟件編碼的選擇。但進(jìn)入到2019年后，我們現(xiàn)在看到越來越多的頭部互聯(lián)網(wǎng)公司開始在轉(zhuǎn)型到ASIC編碼上來了。相信大家會陸續(xù)看到更多這方面的新聞發(fā)布。

LiveVideoStack：一般認(rèn)為，硬件編碼雖然效率高，但是畫質(zhì)低于軟件編碼，NETINT如何提升編碼畫質(zhì)的？

劉偉：這個(gè)和剛才談到的問題也有關(guān)系。剛才提到的傳統(tǒng)上的client端編碼芯片由于使用場景的限制，為了平衡性能、質(zhì)量和所需的計(jì)算資源，很多的編碼流程中的工具/選項(xiàng)沒有集成進(jìn)去，因此視頻處理的能力、畫質(zhì)有限。并且由于應(yīng)用場景比較固定，普遍采用video in、video out的設(shè)計(jì)，視頻數(shù)據(jù)缺乏再加工的潛力。 而我們的芯片從設(shè)計(jì)之初就是針對云數(shù)據(jù)中心和視頻平臺的高視頻質(zhì)量、高throughput、高穩(wěn)定性以及可拓展性要求而設(shè)計(jì)的。NETINT Codensity轉(zhuǎn)碼芯片以非常高質(zhì)量的編碼引擎作為基礎(chǔ)，非常深入的集成了多種畫質(zhì)增強(qiáng)工具，可以向客戶提供了和x264/x265相當(dāng)，而且多達(dá)200多個(gè)編碼參數(shù)供選擇。 用戶可以針對不同的使用場景和用途，選擇靈活的編碼策略，達(dá)到最優(yōu)的效果。

不僅如此，我們稱這個(gè)產(chǎn)品為轉(zhuǎn)碼卡，其實(shí)嚴(yán)格的來說應(yīng)該說是視頻編解碼卡，解碼單元和編碼單元是獨(dú)立的。解碼單元、編碼單元以及Host之見可以直接處理YUV格式視頻。以AWS為例，這樣的大型云服務(wù)提供商有著完整的視頻加工工具和流程，為了避免重復(fù)編解碼，視頻在系統(tǒng)當(dāng)中是以視頻原始YUV格式流動(dòng)的。我們可以把解碼后的視頻流以YUV的格式給到host，進(jìn)行畫質(zhì)增強(qiáng)、人工智能處理、服務(wù)器端廣告集成等多種處理。處理后的YUV流可以再次給到我們的編碼單元，然后在編碼單元內(nèi)實(shí)時(shí)編碼為多種分辨率、碼率的多個(gè)碼流，然后通過服務(wù)器和CDN以ABR形式分發(fā)出去。 上述的功能特點(diǎn)，不僅僅在視頻質(zhì)量方面可以滿足客戶的要求，更可以作為客戶Production flow上重要的一個(gè)環(huán)節(jié)，為客戶帶來更多的價(jià)值。

LiveVideoStack：現(xiàn)在還有廠家在開發(fā)基于FPGA的編碼方案，您是怎么看待FPGANETINT ASIC對比的優(yōu)缺點(diǎn)呢？

劉偉：FPGA由于其相對于軟件方案的高性能和相對于ASIC的更高的可編程性，在開發(fā)新產(chǎn)品時(shí)，確實(shí)有其獨(dú)有的優(yōu)勢。然而，F(xiàn)PGA也帶有它多個(gè)先天的劣勢。首先，F(xiàn)PGA的成本非常高，一塊較高性能的FPGA的成本，輕輕松松要幾千美金、甚至上萬美金一塊。 而且即使是高端的FPGA可用來編程的LUTs也是一個(gè)非常有限的數(shù)目。因此純粹用FPGA的LUTs來進(jìn)行編碼器設(shè)計(jì)的話，throughput非常有限。在這方面可以舉一個(gè)我們自己的例子。我們在設(shè)計(jì)現(xiàn)在這款芯片時(shí)，花費(fèi)巨資，采購了四十多套最高檔的FPGA來作為仿真測試的平臺。但即使是當(dāng)時(shí)最高檔的FPGA，也只能模擬我們芯片局部blocks的一部分功能，因此，不得不將各個(gè)block分拆開來在FPGA進(jìn)行模擬測試。為了測試1-2個(gè)channel的E2E的功能，我們需要將2塊FPGA甚至4塊FPGA拼在一起才有可能。即使是這樣，也僅僅能模擬我們芯片大約1/10 throughput的工作。由此可見，F(xiàn)PGA的throughput、功耗和ASIC之間，還是存在一個(gè)非常巨大的鴻溝。

當(dāng)然，現(xiàn)在有的FPGA設(shè)計(jì)比較討巧，在其中集成了視頻編碼“硬加速”模塊來提高性能，并且縮小了LUTs來節(jié)約成本，不過在這種情況下，F(xiàn)PGA僅僅是作為一個(gè)ASIC來使用，并不是本來意義上的“Field-programmable”了，而是一個(gè)借著FPGA名字的ASIC方案，這種方案在性能、價(jià)格和功耗上并無多少競爭力。

還有一點(diǎn)很多人沒有意識到，與通常的軟件編程不同，F(xiàn)PGA編程想要做的好，需要對HDL和protocols有很深的認(rèn)識，難度很大。維護(hù)和升級的成本很高。 因此，F(xiàn)PGA不僅僅是初始采購成本高，維護(hù)和升級的TCO更高。

當(dāng)然，F(xiàn)PGA還是有它的獨(dú)特優(yōu)點(diǎn)，當(dāng)使用數(shù)量非常有限、作為Prototype平臺使用時(shí)，是一個(gè)很好的選擇。但對于大規(guī)模使用的場景，還是應(yīng)該很好的衡量一下再做決定。有興趣的同學(xué)可以看一下在SSD領(lǐng)域，相似的爭論幾年前也出現(xiàn)過。當(dāng)時(shí)也有基于FPGA的主控方案，但現(xiàn)在毫無意外的，都已經(jīng)全部升級為專用ASIC的方案了。相信在不遠(yuǎn)的將來，在AI尤其是Inference應(yīng)用方面，大家很快也會看到同樣的變化。

LiveVideoStack：為什么選擇H.264/HEVC作為編碼標(biāo)準(zhǔn)？是否考慮或計(jì)劃提供其他標(biāo)準(zhǔn)的編碼格式？看看哪些編碼標(biāo)準(zhǔn)的未來，H.266/AV1/AVS2/AVS3？

劉偉：在市場調(diào)查中我們發(fā)現(xiàn)，H.264作為一個(gè)成熟的Codec，在整個(gè)streaming市場有約80%的占有率，ecosystem非常完備。而HEVC作為更新一代的Codec，在視頻壓縮效率方面有將近30-50%的提升。而其他多種codec由于種種原因，或是未在市場中形成一個(gè)有效的體系，或是在成熟度方面還有所欠缺，因此當(dāng)時(shí)選用H.264/HEVC就成了我們在設(shè)計(jì)這款產(chǎn)品時(shí)一個(gè)非常自然的選擇。 當(dāng)然，包括H.266/AV1/AVS3在內(nèi)的新的codec技術(shù)也還在不斷的演化、進(jìn)步，我們也在積極的關(guān)注著這方面新技術(shù)的發(fā)展。其實(shí)我們已經(jīng)有下一代產(chǎn)品在設(shè)計(jì)當(dāng)中了，具體包含哪些新的codec，目前還是公司機(jī)密不能披露。相信新產(chǎn)品出來時(shí)，一定會在市場有相當(dāng)?shù)臎_擊力。

LiveVideoStack：我注意到NETINT的產(chǎn)品除了提供高性能的編碼能力，還融入了存儲控制能力。這樣的產(chǎn)品面向哪些應(yīng)用場景呢？

劉偉：NETINT是一個(gè)有很強(qiáng)創(chuàng)新基因的芯片公司。我們的產(chǎn)品可以看作是多種思想相互碰撞、升華、融合的產(chǎn)物。這里90%的員工是工程師，而且這些員工來自很多不同的領(lǐng)域。在公司中既有很多來自企業(yè)級存儲芯片領(lǐng)域有著20多年經(jīng)驗(yàn)的資深架構(gòu)師，也有在視頻編碼/DSP領(lǐng)域有著30多年經(jīng)驗(yàn)的資深設(shè)計(jì)師，也有很多人曾經(jīng)參與開發(fā)了Snapdragon這類被廣為采用的芯片。這么多有才華、有激情的工程師聚在一起，每天都會產(chǎn)生了很多奇妙的構(gòu)思。這也是在NETINT公司工作最大的樂趣之一。

我們在全球最早采用Computational Storage架構(gòu)設(shè)計(jì)芯片，并設(shè)計(jì)出了全球唯一一款Computation Storage架構(gòu)的Video Processing SoC。我們現(xiàn)在還在積極的參與SNIA Computational Storage TWG的活動(dòng)，希望能夠激勵(lì)更多的公司能夠參與到這個(gè)TWG的建設(shè)，為客戶帶來更新穎、高效的解決方案。

采用Computational Storage架構(gòu)，在云數(shù)據(jù)中心和邊緣計(jì)算場景下都有這廣闊的應(yīng)用前景。 存儲系統(tǒng)是云數(shù)據(jù)中心設(shè)計(jì)最為嚴(yán)謹(jǐn)?shù)南到y(tǒng)之一，所有的系統(tǒng)、接口都經(jīng)過了各個(gè)客戶、廠家嚴(yán)謹(jǐn)?shù)恼撟C和設(shè)計(jì)，并在實(shí)際應(yīng)用當(dāng)中經(jīng)歷了嚴(yán)苛的考驗(yàn)。我們采用這樣成熟的存儲架構(gòu)為基礎(chǔ)，可以將我們的視頻編解碼系統(tǒng)的成熟性直接提高到了頂級的企業(yè)級應(yīng)用水平。由于采用標(biāo)準(zhǔn)的PCIe NVMe驅(qū)動(dòng)，以及標(biāo)準(zhǔn)的U.2 formfactor，客戶無需采購、qualify新的服務(wù)器，也不要安裝任何私有的驅(qū)動(dòng)，無需重裝Linux kernel，把我們的轉(zhuǎn)碼卡插到U.2 slot當(dāng)中就可以使用。這對于系統(tǒng)設(shè)計(jì)和運(yùn)維團(tuán)隊(duì)來說，大大簡化了集成復(fù)雜度和維護(hù)難度。 當(dāng)需要scale out時(shí)，只需要在現(xiàn)有系統(tǒng)中插入更多的轉(zhuǎn)碼卡，就可以實(shí)現(xiàn)編解碼能力的線性增長。

另一個(gè)主要的使用場景就是在EDGE Computing場景當(dāng)中。我們采用的是ASIC解決方案，效率相對于軟件解決方案來說，有著巨大的提高。提供高處理能力的同時(shí)，還有著極低的功耗，每張卡在全速工作時(shí)，功耗只有6W。 轉(zhuǎn)碼卡的尺寸也非常小，就是一塊普通2.5”SSD硬盤的大小?？蛻艨梢暂p易的把這個(gè)產(chǎn)品集成到MEC當(dāng)中。并且轉(zhuǎn)碼卡和SSD共用同一種接口，用戶可以自由的進(jìn)行存儲單元和轉(zhuǎn)碼單元性能的互相調(diào)劑。 未來我們還會提供Fusion系列產(chǎn)品，將轉(zhuǎn)碼卡和SSD合二為一，用戶可以為邊緣計(jì)算場景設(shè)計(jì)兼具性能、功耗、體積、成本的全能冠軍型新一代邊緣計(jì)算服務(wù)器。其實(shí)針對邊緣計(jì)算的場景，結(jié)合這款產(chǎn)品的獨(dú)特能力，我們預(yù)見到還會有很多可能性可以挖掘，我們也十分愿意與客戶來共同開發(fā)這些應(yīng)用。

LiveVideoStack：NETINT是否考慮提供更豐富的能力選擇給用戶？

劉偉：是的，前面提到我們的產(chǎn)品有200多項(xiàng)編碼參數(shù)可供用戶選擇，并還在不斷再增加。上個(gè)月我們剛剛開放了ROI功能給客戶，這樣在極低的網(wǎng)絡(luò)條件下，客戶可以結(jié)合他們已有的AI功能, 識別最終用戶感興趣的區(qū)域，動(dòng)態(tài)分配更多的碼率。這樣在有限的帶寬條件下，可以實(shí)現(xiàn)用戶滿意度的最大化。 我們的產(chǎn)品能夠跟FFmpeg無縫結(jié)合，用戶負(fù)責(zé)自由的創(chuàng)新，只需要把艱難的視頻編碼計(jì)算留給我們就好。 我們已經(jīng)在著手設(shè)計(jì)下一代產(chǎn)品，到時(shí)無論是能力的種類還是深度，我們都會給客戶更多的選擇。

LiveVideoStack：NETINT最大的（潛在）競爭對手是？NETINT的優(yōu)勢是？

劉偉：坦白的說，作為一個(gè)高科技start-up公司，從一開始我們就不打算陷入到低水平的競爭當(dāng)中，我們更愿意進(jìn)行高度的創(chuàng)新，在另外一個(gè)維度上獲得發(fā)展的空間。就這款產(chǎn)品而言，我們在全球最先在SSD中實(shí)現(xiàn)了PCIe 4.0接口，實(shí)現(xiàn)了全球首款computational storage架構(gòu)編解碼ASIC，（正在）設(shè)計(jì)世界唯一一款Fusion系列SSD…我們與包括軟件編碼方式在內(nèi)的多種解決方案，共同構(gòu)成了一個(gè)豐富的編碼工具體系?？蛻粢罁?jù)他們的應(yīng)用特點(diǎn)和約束條件，可以選擇多種方式來滿足他們的業(yè)務(wù)需求。

對NETINT而言，我們擅長的場景是高并發(fā)、極低時(shí)延、高穩(wěn)定性、易拓展的使用場景，各類直播是典型的應(yīng)用之一。另外一個(gè)擅長的場景是高效率、低功耗、體積小、高融合的邊緣計(jì)算場景。當(dāng)然，還有一類是對超高分辨率、極低時(shí)延有要求的新興應(yīng)用場景，比如AR、VR、云游戲平臺等，這方面我們也可以大展身手。因此，我想說我們沒有嚴(yán)格意義上的競爭對手。

作為一個(gè)創(chuàng)新公司，我們領(lǐng)先于其他公司設(shè)計(jì)出了這款有著眾多創(chuàng)新的突破性產(chǎn)品，享受到了技術(shù)領(lǐng)先帶來的紅利。在這方面，時(shí)間是我們的朋友。另一方面，作為一家創(chuàng)新公司，我們公司只有較短的歷史，在市場上沒有足夠的時(shí)間積累，沒有被人廣為所知，會錯(cuò)失很多的機(jī)會。在這個(gè)方面，很不幸，時(shí)間站在我們的對立面。在這里，也希望LiveVideoStack的朋友們多了解我們，我們一同為客戶帶來更多高效、新穎的解決方案，促進(jìn)這個(gè)行業(yè)更快的向前發(fā)展。