如今引領風潮的圖深度學習與曾經(jīng)風靡一時的流形學習有何關系？請看本文娓娓道來。

圖神經(jīng)網(wǎng)絡利用關系的歸納偏置獲取以圖的形式存在的數(shù)據(jù)。然而，在很多情況下，我們并沒有現(xiàn)成的可用的圖。

那么，在這種情況下，是否還仍然還可以應用圖深度學習呢？在本文中，倫敦帝國理工學院和盧加諾大學的教授Michael Bronstein對近期關于隱圖學習的工作和以前的流形學習技術進行了比較。

在過去的幾年里，人們對用于圖結構數(shù)據(jù)的機器學習方法的研究興趣大增。這類數(shù)據(jù)自然而然地出現(xiàn)在社會科學（例如，Twitter 或 Facebook 上的用戶關注圖）、化學（分子可以被建模為原子通過化學鍵相連的圖）、生物（不同生物分子之間的交互作用通常被建模為一個被稱為「相互作用組」的圖）等應用場景下。

圖神經(jīng)網(wǎng)絡（GNN）是一類當下非常流行的方法，它們通過共享參數(shù)的局部操作對圖進行學習，這些操作會在相鄰節(jié)點之間交換信息。然而，在某些場景下，我們并不能奢求擁有一個作為輸入的圖。這種情況在許多生物學問題中屢見不鮮，在最好的情況下，由于發(fā)現(xiàn)交互作用的實驗開銷相當大并且充滿噪聲，「蛋白質(zhì)-蛋白質(zhì)」交互網(wǎng)絡等圖往往也只有部分數(shù)據(jù)被觀測到。

因此，我們對于根據(jù)數(shù)據(jù)推理出圖并且將圖神經(jīng)網(wǎng)絡應用在該圖上十分感興趣，在本文中，我們將這一過程稱為「隱圖學習」（latent graph learning）。

隱圖可能是面向特定應用的，并且針對下游任務進行了優(yōu)化。此外，由于這樣的圖可能會傳達關于數(shù)據(jù)的重要理解并提供解釋某些結論的方式，有時它們可能甚至會比任務本身更加重要。我們可以將隱圖學習看做學習一個帶有空邊集的圖。

在這種情況下，輸入為一些高維特征空間中的點云。

與 PointNet 等針對集合的深度學習方法（它們將一些共享的、可學習的點層面函數(shù)應用于每個節(jié)點上）不同，我們還試圖在點之間傳遞信息。這是通過在一個根據(jù)點特征本身構建的圖上傳遞消息實現(xiàn)的。

本文介紹的第一種此類架構為 MIT 的 Yue Wang 研發(fā)的「動態(tài)圖卷積網(wǎng)絡」（DGCNN，這篇論文在計算圖形學研究社區(qū)十分有名，并常常被用作點云方法的對比基線）。

受到計算圖形學領域中進行 3D 點云分析的工作的啟發(fā)，DGCNN 試圖將圖用作點云底層的局部平滑流形結構的一種粗糙的表征。

Yue Wang 觀察到的一個關鍵結論是，在整個神經(jīng)網(wǎng)絡的處理過程中，該圖并不需要保持不變。而且事實上，顧名思義，「動態(tài)圖卷積網(wǎng)絡」可以、也應該被動態(tài)地更新。圖 1 說明了 DGCNN 在計算圖形學中十分有用的原因：

圖 1：動態(tài)圖卷積網(wǎng)絡利用飛機圖像構建了一個被用于特征傳播的 K 最近鄰圖。這種圖依賴于特定的任務，會被每一層網(wǎng)絡更新。

圖中的不同顏色表明了點距離紅點的距離（黃色表示與紅點距離較近的點）。

本圖說明在分割任務中，較深的層中的圖捕獲了語義關系（例如，一對翅膀、飛機引擎等）而不是幾何關系。

DGCNN 其中的一個不足之處在于，它使用了同一個空間構建圖以及圖上的特征。如圖 2 所示，在慕尼黑工業(yè)大學的 Anees Kazi 與 Luca Cosmo 近期發(fā)表的工作中，作者提出了一種名為「可微圖模塊」（DGM）的新型架構，它通過將構建圖和構建特征的過程解耦對 DGCNN 進行了擴展：

圖 2：可微圖模塊（DGM）提出了一種構建圖及其特征的機制，從而利用輸入數(shù)據(jù)在圖上進行信息傳播。

在被用于醫(yī)學領域的問題（例如，根據(jù)腦成像數(shù)據(jù)預測疾?。r，DGM 表現(xiàn)出了非常優(yōu)異的性能。在這些任務中，我們擁有包括人口統(tǒng)計學特征（例如，年齡、性別等）、腦成像特征在內(nèi)的多個病人的電子病歷數(shù)據(jù)，并試圖預測某個病人是否患有神經(jīng)系統(tǒng)疾病。

論文「Disease prediction using graph convolutional networks： application to autism spectrum disorder and Alzheimer’s disease 」使用在一個根據(jù)人口統(tǒng)計學特征手動構建的「患者圖」上的信息傳播將 GNN 應用于此類任務。

DGM 在學習圖的任務上具有一定優(yōu)勢，它可能傳達了對于某些特征如何在特定的診斷任務中互相依賴的理解。除此之外，DGM 還在點云分類任務中稍稍優(yōu)于 DGCNN。

DGCNN 和 DGM 在概念上與一類被稱為「流形學習」或「非線性降維」相似，這類方法在 2000 年代時是機器學習領域中非常流行的課題，并且至今仍然被用于數(shù)據(jù)可視化。

流形學習的基本假設是：數(shù)據(jù)有一種內(nèi)在的低維結構。

如下圖所示，盡管我們可以在某個空間中使用數(shù)百個甚至數(shù)千個維度表征數(shù)據(jù)，但數(shù)據(jù)的自由度實際上也許是十分有限的：

圖 3：盡管在這個數(shù)據(jù)集中的手的圖像是高維的（64*64=4，096 維），但是他們本質(zhì)上是低維的，而且可以通過僅僅兩個自由度來解釋：手腕的旋轉(zhuǎn)和手指的延伸情況。

流形學習算法可以捕獲數(shù)據(jù)集的這種低維的內(nèi)在結構，并且在歐氏空間中表征它。該圖取自論文「A Global Geometric Framework for Nonlinear Dimensionality Reduction」的補充材料。

流形學習旨在通過底層的「流形」（嚴格地說，這里指的并不是微分幾何意義上的術語「流形」，例如不同的點上的局部維度可能不同。

然而，使用這種比喻較為方便。）捕獲這些自由度，并且將數(shù)據(jù)的維度降到其本質(zhì)的維度上。

流形學習與 PCA 等線性降維方式的重要區(qū)別在于，由于數(shù)據(jù)的非歐結構，用線性投影的方式恢復出流形是不可能的：

圖 4：線性降維（左圖）vs 流形學習。Joshua Tenenbaum 創(chuàng)造的「Swiss roll」曲面及其 1D 展開形式在流形學習論文中經(jīng)常被用作示例。

各種流形學習算法的不同之處在于它們恢復「流形」的方式，但它們的大致框架相同。首先，它們會創(chuàng)建一種數(shù)據(jù)的表征，通常這是通過構建一個捕獲了局部結構的 k 最近鄰圖完成的。接著，它們會計算一種數(shù)據(jù)的低維表征（嵌入），并試圖保留原始數(shù)據(jù)的結構。

而這一步正是大多數(shù)流形學習方法各不相同的地方。

例如，Isomap試圖保留圖的測地線距離；局部線性嵌入找到了一種鄰接點的局部表征；而拉普拉斯特征映射使用了圖拉普拉斯算子的特征函數(shù)作為低維嵌入。這種新的表征將原始的非歐結構「展平」到了一個易于處理的歐氏空間中。

最后，一旦我們計算出表征，就可以將某種機器學習算法（通常為聚類算法）應用于該表征上。

圖 5：流形學習方法的框架：首先，將數(shù)據(jù)表征為一個圖。接著，計算出該圖的低維嵌入。最后，將某種機器學習算法應用于該低維表征上。

該過程也存在著一些挑戰(zhàn)，例如：構建圖的過程與應用機器學習算法的過程是解耦的，有時還需要進行精細的參數(shù)調(diào)優(yōu)（如近鄰節(jié)點的數(shù)量或鄰域半徑），從而確定如何構建圖，使得下游任務表現(xiàn)優(yōu)異。

也許，流形學習算法的一個更為嚴重的缺點是，數(shù)據(jù)很少表現(xiàn)為低維的原始形式。

例如，當我們處理圖像時，需要在預處理步驟中使用各種手動構造的特征提取技術。

圖深度學習通過使用一個圖神經(jīng)網(wǎng)絡代替這個三階段的過程為其提供了一種現(xiàn)代化的視角。

例如，在動態(tài)圖卷積網(wǎng)絡或 DGM 中，構建圖和學習的過程都是同一個架構中的某一部分：

圖 6：可以將隱圖學習看做一種現(xiàn)代環(huán)境下的流形學習問題，其中將圖作為一個端到端的 GNN 工作流程的一部分進行學習，并為某些下游任務對其進行優(yōu)化。

這類方法吸引人的地方在于，它們可以將處理單個數(shù)據(jù)點的過程與處理它們所在空間的過程在同一個工作流程中結合起來。

以圖像為例，我們可以使用傳統(tǒng)的卷積神經(jīng)網(wǎng)絡從每張圖像中提取視覺特征，并且使用圖神經(jīng)網(wǎng)絡建模它們之間的關系。

Jan Svoboda 在論文「 PeerNets： Exploiting peer wisdom against adversarial attacks」中用到了這種方法，他為卷積神經(jīng)網(wǎng)絡提出了一種基于圖的正則化層「PeerNet」，它可以實現(xiàn)在多張圖像之間交換信息。

PeerNet 與非局部（Non-local）均值濾波器在它們從多個位置聚合信息的方式上有一些相似之處，而 PeerNet 的不同之處在于它從多張圖像而不是單張圖像中聚合信息。

這種正則化技術顯著地降低了對抗性干擾的影響，而標準的卷積神經(jīng)網(wǎng)絡則很容易受其影響。

圖 7：PeerNet 是一種標準的卷積神經(jīng)網(wǎng)絡中的基于圖的正則化層，它從多張圖像中聚合相似的像素，從而降低對于對抗性干擾的敏感度。隱圖學習還有許多其它有趣的應用，小樣本學習便是其中之一。

在小樣本學習中，基于圖的技術可以幫助使用少量示例訓練的模型泛化。如今，由于數(shù)據(jù)標注的開銷十分巨大，小樣本學習在計算機視覺領域變得越來越重要。生物學是隱圖學習另一個重要的應用場景，人們通常通過實驗觀察蛋白質(zhì)等生物分子的表達水平，并試圖重建它們的相互作用和信息傳遞網(wǎng)絡。

此外，隱圖學習還可以被用于對物理系統(tǒng)的分析，其中圖可以描述多個物體之間的相互作用。具體而言，研究復雜粒子相互作用的高能物理學家們近期對基于圖的方法展現(xiàn)出了濃厚的興趣。最后，隱圖學習在自然語言處理（NLP）領域中也得到了重要的應用，其中圖神經(jīng)網(wǎng)絡可以被看做 Transformer 架構的拓展。

許多上述的任務也提出了引入圖結構的先驗知識的問題，這仍然是一個有待解決的開放性問題：例如，我們也許會希望迫使圖遵循某些特定的構建規(guī)則，或者與某些統(tǒng)計模型兼容。

在論文「Learning deep generative models of graphs」中，作者在嚴格遵循某些構建規(guī)則的情況下，生成化學鍵的分子結構圖。我們相信，盡管隱圖學習并不是一個完全新穎的概念，但是它為一些老的問題提供了新的視角。

它肯定是一種有趣的圖機器學習問題，為圖神經(jīng)網(wǎng)絡的研究者們提供了新的舞臺。

責任編輯：lq