【導(dǎo)讀】GCN問(wèn)世已經(jīng)有幾年了（2016年就誕生了），但是這兩年尤為火爆。本人愚鈍，一直沒(méi)能搞懂這個(gè)GCN為何物，最開(kāi)始是看清華寫(xiě)的一篇三四十頁(yè)的綜述，讀了幾頁(yè)就沒(méi)讀了；后來(lái)直接拜讀GCN的開(kāi)山之作，也是讀到中間的數(shù)學(xué)部分就跪了；再后來(lái)在知乎上看大神們的講解，直接被排山倒海般的公式——什么傅里葉變換、什么拉普拉斯算子等等，給搞蒙了，越讀越覺(jué)得：“哇這些大佬好厲害，哎我怎么這么菜！”。就這么反反復(fù)復(fù)，嘗試一次放棄一次，終于慢慢有點(diǎn)理解了，慢慢從那些公式的里跳了出來(lái)，看到了全局，也就慢慢明白了GCN的原理。今天，我就記錄一下我對(duì)GCN“階段性”的理解。

GCN的概念首次提出于ICLR2017（成文于2016年）：

一、GCN是做什么的

在扎進(jìn)GCN的汪洋大海前，我們先搞清楚這個(gè)玩意兒是做什么的，有什么用。

深度學(xué)習(xí)一直都是被幾大經(jīng)典模型給統(tǒng)治著，如CNN、RNN等等，它們無(wú)論再CV還是NLP領(lǐng)域都取得了優(yōu)異的效果，那這個(gè)GCN是怎么跑出來(lái)的？是因?yàn)槲覀儼l(fā)現(xiàn)了很多CNN、RNN無(wú)法解決或者效果不好的問(wèn)題——圖結(jié)構(gòu)的數(shù)據(jù)。

回憶一下，我們做圖像識(shí)別，對(duì)象是圖片，是一個(gè)二維的結(jié)構(gòu)，于是人們發(fā)明了CNN這種神奇的模型來(lái)提取圖片的特征。CNN的核心在于它的kernel，kernel是一個(gè)個(gè)小窗口，在圖片上平移，通過(guò)卷積的方式來(lái)提取特征。這里的關(guān)鍵在于圖片結(jié)構(gòu)上的平移不變性：一個(gè)小窗口無(wú)論移動(dòng)到圖片的哪一個(gè)位置，其內(nèi)部的結(jié)構(gòu)都是一模一樣的，因此CNN可以實(shí)現(xiàn)參數(shù)共享。這就是CNN的精髓所在。

再回憶一下RNN系列，它的對(duì)象是自然語(yǔ)言這樣的序列信息，是一個(gè)一維的結(jié)構(gòu)，RNN就是專(zhuān)門(mén)針對(duì)這些序列的結(jié)構(gòu)而設(shè)計(jì)的，通過(guò)各種門(mén)的操作，使得序列前后的信息互相影響，從而很好地捕捉序列的特征。

上面講的圖片或者語(yǔ)言，都屬于歐式空間的數(shù)據(jù)，因此才有維度的概念，歐式空間的數(shù)據(jù)的特點(diǎn)就是結(jié)構(gòu)很規(guī)則。但是現(xiàn)實(shí)生活中，其實(shí)有很多很多不規(guī)則的數(shù)據(jù)結(jié)構(gòu)，典型的就是圖結(jié)構(gòu)，或稱(chēng)拓?fù)浣Y(jié)構(gòu)，如社交網(wǎng)絡(luò)、化學(xué)分子結(jié)構(gòu)、知識(shí)圖譜等等；即使是語(yǔ)言，實(shí)際上其內(nèi)部也是復(fù)雜的樹(shù)形結(jié)構(gòu)，也是一種圖結(jié)構(gòu)；而像圖片，在做目標(biāo)識(shí)別的時(shí)候，我們關(guān)注的實(shí)際上只是二維圖片上的部分關(guān)鍵點(diǎn)，這些點(diǎn)組成的也是一個(gè)圖的結(jié)構(gòu)。

圖的結(jié)構(gòu)一般來(lái)說(shuō)是十分不規(guī)則的，可以認(rèn)為是無(wú)限維的一種數(shù)據(jù)，所以它沒(méi)有平移不變性。每一個(gè)節(jié)點(diǎn)的周?chē)Y(jié)構(gòu)可能都是獨(dú)一無(wú)二的，這種結(jié)構(gòu)的數(shù)據(jù)，就讓傳統(tǒng)的CNN、RNN瞬間失效。所以很多學(xué)者從上個(gè)世紀(jì)就開(kāi)始研究怎么處理這類(lèi)數(shù)據(jù)了。這里涌現(xiàn)出了很多方法，例如GNN、DeepWalk、node2vec等等，GCN只是其中一種，這里只講GCN，其他的后面有空再討論。

GCN，圖卷積神經(jīng)網(wǎng)絡(luò)，實(shí)際上跟CNN的作用一樣，就是一個(gè)特征提取器，只不過(guò)它的對(duì)象是圖數(shù)據(jù)。GCN精妙地設(shè)計(jì)了一種從圖數(shù)據(jù)中提取特征的方法，從而讓我們可以使用這些特征去對(duì)圖數(shù)據(jù)進(jìn)行節(jié)點(diǎn)分類(lèi)（node classification）、圖分類(lèi)（graph classification）、邊預(yù)測(cè)（link prediction），還可以順便得到圖的嵌入表示（graph embedding），可見(jiàn)用途廣泛。因此現(xiàn)在人們腦洞大開(kāi)，讓GCN到各個(gè)領(lǐng)域中發(fā)光發(fā)熱。

二、GCN長(zhǎng)啥樣，嚇人嗎

GCN的公式看起來(lái)還是有點(diǎn)嚇人的，論文里的公式更是嚇破了我的膽兒。但后來(lái)才發(fā)現(xiàn)，其實(shí)90%的內(nèi)容根本不必理會(huì)，只是為了從數(shù)學(xué)上嚴(yán)謹(jǐn)?shù)匕咽虑榻o講清楚，但是完全不影響我們的理解，尤其對(duì)于我這種“追求直覺(jué)，不求甚解”之人。

下面進(jìn)入正題，我們直接看看GCN的核心部分是什么亞子：

假設(shè)我們手頭有一批圖數(shù)據(jù)，其中有N個(gè)節(jié)點(diǎn)（node），每個(gè)節(jié)點(diǎn)都有自己的特征，我們?cè)O(shè)這些節(jié)點(diǎn)的特征組成一個(gè)N×D維的矩陣X，然后各個(gè)節(jié)點(diǎn)之間的關(guān)系也會(huì)形成一個(gè)N×N維的矩陣A，也稱(chēng)為鄰接矩陣（adjacency matrix）。X和A便是我們模型的輸入。

GCN也是一個(gè)神經(jīng)網(wǎng)絡(luò)層，它的層與層之間的傳播方式是：

這個(gè)公式中：

A波浪=A+I，I是單位矩陣

D波浪是A波浪的度矩陣（degree matrix），公式為

H是每一層的特征，對(duì)于輸入層的話(huà)，H就是X

σ是非線性激活函數(shù)

我們先不用考慮為什么要這樣去設(shè)計(jì)一個(gè)公式。我們現(xiàn)在只用知道： 這個(gè)部分，是可以事先算好的，因?yàn)镈波浪由A計(jì)算而來(lái)，而A是我們的輸入之一。

所以對(duì)于不需要去了解數(shù)學(xué)原理、只想應(yīng)用GCN來(lái)解決實(shí)際問(wèn)題的人來(lái)說(shuō)，你只用知道：哦，這個(gè)GCN設(shè)計(jì)了一個(gè)牛逼的公式，用這個(gè)公式就可以很好地提取圖的特征。這就夠了，畢竟不是什么事情都需要知道內(nèi)部原理，這是根據(jù)需求決定的。

為了直觀理解，我們用論文中的一幅圖：

上圖中的GCN輸入一個(gè)圖，通過(guò)若干層GCN每個(gè)node的特征從X變成了Z，但是，無(wú)論中間有多少層，node之間的連接關(guān)系，即A，都是共享的。

假設(shè)我們構(gòu)造一個(gè)兩層的GCN，激活函數(shù)分別采用ReLU和Softmax，則整體的正向傳播的公式為：

最后，我們針對(duì)所有帶標(biāo)簽的節(jié)點(diǎn)計(jì)算cross entropy損失函數(shù)：

就可以訓(xùn)練一個(gè)node classification的模型了。由于即使只有很少的node有標(biāo)簽也能訓(xùn)練，作者稱(chēng)他們的方法為半監(jiān)督分類(lèi)。

當(dāng)然，你也可以用這個(gè)方法去做graph classification、link prediction，只是把損失函數(shù)給變化一下即可。

三、GCN為什么是這個(gè)亞子

我前后翻看了很多人的解讀，但是讀了一圈，最讓我清楚明白為什么GCN的公式是這樣子的居然是作者Kipf自己的博客：tkipf.github.io/graph-c 推薦大家一讀。

作者給出了一個(gè)由簡(jiǎn)入繁的過(guò)程來(lái)解釋?zhuān)?/p>

我們的每一層GCN的輸入都是鄰接矩陣A和node的特征H，那么我們直接做一個(gè)內(nèi)積，再乘一個(gè)參數(shù)矩陣W，然后激活一下，就相當(dāng)于一個(gè)簡(jiǎn)單的神經(jīng)網(wǎng)絡(luò)層嘛，是不是也可以呢？

實(shí)驗(yàn)證明，即使就這么簡(jiǎn)單的神經(jīng)網(wǎng)絡(luò)層，就已經(jīng)很強(qiáng)大了。這個(gè)簡(jiǎn)單模型應(yīng)該大家都能理解吧，這就是正常的神經(jīng)網(wǎng)絡(luò)操作。

但是這個(gè)簡(jiǎn)單模型有幾個(gè)局限性：

只使用A的話(huà)，由于A的對(duì)角線上都是0，所以在和特征矩陣H相乘的時(shí)候，只會(huì)計(jì)算一個(gè)node的所有鄰居的特征的加權(quán)和，該node自己的特征卻被忽略了。因此，我們可以做一個(gè)小小的改動(dòng)，給A加上一個(gè)單位矩陣I，這樣就讓對(duì)角線元素變成1了。

A是沒(méi)有經(jīng)過(guò)歸一化的矩陣，這樣與特征矩陣相乘會(huì)改變特征原本的分布，產(chǎn)生一些不可預(yù)測(cè)的問(wèn)題。所以我們對(duì)A做一個(gè)標(biāo)準(zhǔn)化處理。首先讓A的每一行加起來(lái)為1，我們可以乘以一個(gè)

，D就是度矩陣。我們可以進(jìn)一步把 拆開(kāi)與A相乘，得到一個(gè)對(duì)稱(chēng)且歸一化的矩陣：

。

通過(guò)對(duì)上面兩個(gè)局限的改進(jìn)，我們便得到了最終的層特征傳播公式：

其中 ，

為 的degree matrix。

公式中的 與對(duì)稱(chēng)歸一化拉普拉斯矩陣十分類(lèi)似，而在譜圖卷積的核心就是使用對(duì)稱(chēng)歸一化拉普拉斯矩陣，這也是GCN的卷積叫法的來(lái)歷。原論文中給出了完整的從譜卷積到GCN的一步步推導(dǎo)，我是看不下去的，大家有興趣可以自行閱讀。

四、GCN有多牛

在看了上面的公式以及訓(xùn)練方法之后，我并沒(méi)有覺(jué)得GCN有多么特別，無(wú)非就是一個(gè)設(shè)計(jì)巧妙的公式嘛，也許我不用這么復(fù)雜的公式，多加一點(diǎn)訓(xùn)練數(shù)據(jù)或者把模型做深，也可能達(dá)到媲美的效果呢。

但是一直到我讀到了論文的附錄部分，我才頓時(shí)發(fā)現(xiàn)：GCN原來(lái)這么牛??！

為啥呢？

因?yàn)榧词共挥?xùn)練，完全使用隨機(jī)初始化的參數(shù)W，GCN提取出來(lái)的特征就以及十分優(yōu)秀了！這跟CNN不訓(xùn)練是完全不一樣的，后者不訓(xùn)練是根本得不到什么有效特征的。

我們看論文原文：

然后作者做了一個(gè)實(shí)驗(yàn)，使用一個(gè)俱樂(lè)部會(huì)員的關(guān)系網(wǎng)絡(luò)，使用隨機(jī)初始化的GCN進(jìn)行特征提取，得到各個(gè)node的embedding，然后可視化：

可以發(fā)現(xiàn)，在原數(shù)據(jù)中同類(lèi)別的node，經(jīng)過(guò)GCN的提取出的embedding，已經(jīng)在空間上自動(dòng)聚類(lèi)了。

而這種聚類(lèi)結(jié)果，可以和DeepWalk、node2vec這種經(jīng)過(guò)復(fù)雜訓(xùn)練得到的node embedding的效果媲美了。

說(shuō)的夸張一點(diǎn)，比賽還沒(méi)開(kāi)始，GCN就已經(jīng)在終點(diǎn)了?？吹竭@里我不禁猛拍大腿打呼：“NB！”

還沒(méi)訓(xùn)練就已經(jīng)效果這么好，那給少量的標(biāo)注信息，GCN的效果就會(huì)更加出色。

作者接著給每一類(lèi)的node，提供僅僅一個(gè)標(biāo)注樣本，然后去訓(xùn)練，得到的可視化效果如下：

這是整片論文讓我印象最深刻的地方。

看到這里，我覺(jué)得，以后有機(jī)會(huì)，確實(shí)得詳細(xì)地吧GCN背后的數(shù)學(xué)琢磨琢磨，其中的玄妙之處究竟為何，其物理本質(zhì)為何。這個(gè)時(shí)候，回憶起在知乎上看到的各路大神從各種角度解讀GCN，例如從熱量傳播的角度，從一個(gè)群體中每個(gè)人的工資的角度，生動(dòng)形象地解釋。這一刻，歷來(lái)痛恨數(shù)學(xué)的我，我感受到了一絲數(shù)學(xué)之美，于是凌晨?jī)牲c(diǎn)的我，打開(kāi)了天貓，下單了一本正版《數(shù)學(xué)之美》。哦，數(shù)學(xué)啊，你真如一朵美麗的玫瑰，每次被你的美所吸引，都要深深受到刺痛，我何時(shí)才能懂得你、擁有你？

其他關(guān)于GCN的點(diǎn)滴：

對(duì)于很多網(wǎng)絡(luò)，我們可能沒(méi)有節(jié)點(diǎn)的特征，這個(gè)時(shí)候可以使用GCN嗎？答案是可以的，如論文中作者對(duì)那個(gè)俱樂(lè)部網(wǎng)絡(luò)，采用的方法就是用單位矩陣 I 替換特征矩陣 X。

我沒(méi)有任何的節(jié)點(diǎn)類(lèi)別的標(biāo)注，或者什么其他的標(biāo)注信息，可以使用GCN嗎？當(dāng)然，就如前面講的，不訓(xùn)練的GCN，也可以用來(lái)提取graph embedding，而且效果還不錯(cuò)。

GCN網(wǎng)絡(luò)的層數(shù)多少比較好？論文的作者做過(guò)GCN網(wǎng)絡(luò)深度的對(duì)比研究，在他們的實(shí)驗(yàn)中發(fā)現(xiàn)，GCN層數(shù)不宜多，2-3層的效果就很好了。

這么強(qiáng)大的玩意兒，趕緊去試試吧！