這項技術的創(chuàng)始人之一表示，基于攝像機的計算機視覺技術效率極低，促使人們需要替代解決方案。

計算機視覺是否會再次自我改造？

匹茲堡大學眼科教授、CMU 機器人研究所兼職教授 Ryad Benosman 認為確實如此。作為基于事件的視覺技術的創(chuàng)始人之一，Benosman 預計神經(jīng)形態(tài)視覺——基于基于事件的相機的計算機視覺——是計算機視覺的下一個方向。

“計算機視覺已經(jīng)被改造了很多很多次，”他說。“我已經(jīng)看到它至少重新發(fā)明了兩次，從零開始，從零開始?！?/p>

Ryad Benosman（來源：匹茲堡大學）

Benosman 引用了 1990 年代從帶有一點攝影測量的圖像處理到基于幾何的方法的轉變，然后是今天機器學習的快速變化。盡管發(fā)生了這些變化，現(xiàn)代計算機視覺技術仍然主要基于圖像傳感器——產(chǎn)生類似于人眼所見圖像的相機。

根據(jù) Benosman 的說法，在圖像傳感范式不再有用之前，它會阻礙替代技術的創(chuàng)新。這種影響因 GPU 等高性能處理器的發(fā)展而延長，延遲了尋找替代解決方案的需要。

“我們?yōu)槭裁磳D像用于計算機視覺？這是一個價值百萬美元的問題，”他說?！拔覀儧]有理由使用圖像，這只是因為歷史的動力。甚至在沒有相機之前，圖像就有動力?！?/p>

圖像相機

自公元前五世紀針孔相機出現(xiàn)以來，圖像相機就一直存在到 1500 年代，藝術家們建造了房間大小的設備，用于在畫布上追蹤房間外的人或風景的圖像。多年來，這些畫被替換為膠片來記錄圖像。數(shù)碼攝影等創(chuàng)新最終使圖像相機很容易成為現(xiàn)代計算機視覺技術的基礎。

然而，Benosman 認為，基于圖像相機的計算機視覺技術效率極低。他的類比是中世紀城堡的防御系統(tǒng)：位于城墻周圍的守衛(wèi)向各個方向尋找接近的敵人。鼓手穩(wěn)定地敲打，每一個鼓點，每個守衛(wèi)都會大聲喊出他們所看到的。在所有的呼喊聲中，聽到一個守衛(wèi)在遙遠的森林邊緣發(fā)現(xiàn)敵人是多么容易？

21世紀的鼓聲硬件等價物是電子時鐘信號，而守衛(wèi)是像素——大量數(shù)據(jù)被創(chuàng)建并且必須在每個時鐘周期進行檢查，這意味著存在大量冗余信息和大量信息。需要不必要的計算。

Prophesee 與索尼合作開發(fā)的 DVS 傳感器評估套件。Benosman 是 Prophesee 的聯(lián)合創(chuàng)始人（來源：Prophesee）

“人們正在燃燒如此多的能量，它占用了城堡的整個計算能力來保護自己，”貝諾斯曼說。如果發(fā)現(xiàn)一個有趣的事件，在這個類比中以敵人為代表，“你必須四處走走收集無用的信息，到處都是人在尖叫，所以帶寬很大……現(xiàn)在想象你有一座復雜的城堡. 所有這些人都必須被聽到。”

進入神經(jīng)形態(tài)視覺?；舅枷胧艿缴锵到y(tǒng)工作方式的啟發(fā)，即檢測場景動態(tài)的變化，而不是連續(xù)分析整個場景。在我們的城堡類比中，這意味著讓守衛(wèi)保持安靜，直到他們看到感興趣的東西，然后喊出他們的位置以發(fā)出警報。在電子版中，這意味著讓單個像素決定他們是否看到相關的東西。

“像素可以自行決定他們應該發(fā)送什么信息，而不是獲取系統(tǒng)信息，他們可以尋找有意義的信息——特征，”他說?！斑@就是與眾不同的地方?！?/p>

與固定頻率的系統(tǒng)采集相比，這種基于事件的方法可以節(jié)省大量電力并減少延遲。

“你想要一些更具適應性的東西，這就是[基于事件的視覺]的相對變化給你的東西，一個適應性的采集頻率，”他說?！爱斈阌^察幅度變化時，如果某些東西移動得非?？?，我們就會得到很多樣本。如果某些東西沒有改變，你會得到幾乎為零，所以你正在根據(jù)場景的動態(tài)調整你的采集頻率。這就是它帶來的東西。這就是為什么它是一個好的設計?！?/p>

Benosman 于 2000 年進入神經(jīng)形態(tài)視覺領域，他堅信先進的計算機視覺永遠無法發(fā)揮作用，因為圖像不是正確的方法。

“最大的轉變是說我們可以在沒有灰度和沒有圖像的情況下進行視覺，這在 2000 年底是異端——完全是異端，”他說。

Benosman 提出的技術——今天基于事件的傳感的基礎——是如此不同，以至于提交給當時最重要的 IEEE 計算機視覺期刊的論文未經(jīng)審查就被拒絕了。事實上，直到 2008 年動態(tài)視覺傳感器 (DVS) 的開發(fā)，該技術才開始獲得動力。

神經(jīng)科學靈感

神經(jīng)形態(tài)技術是受生物系統(tǒng)啟發(fā)的技術，包括終極計算機、大腦及其計算元素神經(jīng)元。問題是沒有人完全理解神經(jīng)元是如何工作的。雖然我們知道神經(jīng)元對傳入的稱為尖峰的電信號起作用，但直到最近，研究人員仍將神經(jīng)元描述為相當草率，認為只有尖峰的數(shù)量很重要。這個假設持續(xù)了幾十年。最近的研究證明，這些尖峰的時間是絕對關鍵的，并且大腦的結構正在這些尖峰中產(chǎn)生延遲以編碼信息。

今天的尖峰神經(jīng)網(wǎng)絡模擬大腦中看到的尖峰信號，是真實事物的簡化版本——通常是尖峰的二進制表示?！拔沂盏揭粋€ 1，我醒來，我計算，我睡覺，”Benosman 解釋說。現(xiàn)實要復雜得多。當尖峰到來時，神經(jīng)元開始隨著時間的推移對尖峰的值進行積分；神經(jīng)元也有泄漏，這意味著結果是動態(tài)的。還有大約 50 種不同類型的神經(jīng)元具有 50 種不同的集成配置文件。今天的電子版本缺少集成的動態(tài)路徑、神經(jīng)元之間的連接以及不同的權重和延遲。

“問題是要制造一個有效的產(chǎn)品，你不能[模仿]所有的復雜性，因為我們不理解它，”他說?！叭绻覀冇泻玫拇竽X理論，我們會解決它——問題是我們只是不知道[足夠]?！?/p>

今天，Bensoman 經(jīng)營著一個獨特的實驗室，致力于了解皮層計算背后的數(shù)學，旨在創(chuàng)建新的數(shù)學模型并將其復制為硅設備。這包括直接監(jiān)測來自真實視網(wǎng)膜的尖峰。

目前，貝諾斯曼反對忠實地復制生物神經(jīng)元，稱這種方法過時。

“在硅中復制神經(jīng)元的想法的產(chǎn)生是因為人們觀察了晶體管并看到了一個看起來像真正神經(jīng)元的機制，所以一開始它背后有一些想法，”他說。“我們沒有細胞；我們有硅。你需要適應你的計算基板，而不是相反……如果我知道我在計算什么并且我有芯片，我可以優(yōu)化這個方程式并以最低的成本、最低的功耗、最低的延遲運行它?！?/p>

處理能力

意識到?jīng)]有必要精確復制神經(jīng)元，再加上 DVS 相機的發(fā)展，是當今神經(jīng)形態(tài)視覺系統(tǒng)背后的驅動力。雖然今天的系統(tǒng)已經(jīng)上市，但在我們擁有完全類似于人類的視覺可用于商業(yè)用途之前，還有很長的路要走。

最初的 DVS 相機具有“大而粗的像素”，因為光電二極管本身周圍的組件大大降低了填充因子。雖然對開發(fā)這些攝像機的投資加速了這項技術，但 Benosman 明確表示，今天的事件攝像機只是對早在 2000 年開發(fā)的原始研究設備的改進。來自索尼的最先進的 DVS 攝像機，三星和 Omnivision 擁有微小的像素，融合了 3D 堆疊等先進技術并降低了噪點。Benosman 擔心的是今天使用的傳感器類型能否成功擴大規(guī)模。

“問題是，一旦你增加像素數(shù)量，你就會得到大量數(shù)據(jù)，因為你的速度仍然非常快，”他說。“你可能仍然可以實時處理它，但是你會從太多的像素中得到太多的相對變化。這現(xiàn)在正在殺死所有人，因為他們看到了潛力，但他們沒有合適的處理器來支持它。”

通用神經(jīng)形態(tài)處理器落后于 DVS 相機對應物。一些業(yè)內最大的參與者（IBM Truenorth、英特爾 Loihi）的努力仍在進行中。Benosman 表示，正確的處理器和正確的傳感器將是無與倫比的組合。

“[今天的 DVS] 傳感器速度極快，帶寬超低，動態(tài)范圍大，因此您可以在室內和室外看到，”Benosman 說?！斑@是未來。它會起飛嗎？絕對地！”

“誰能把處理器放在那里并提供完整的堆棧，誰就贏了，因為它將是無與倫比的，”他補充道。

審核編輯 黃昊宇