原文鏈接

SiamFC網(wǎng)絡(luò)

<

圖中z代表的是模板圖像，算法中使用的是第一幀的ground truth；x代表的是search region，代表在后面的待跟蹤幀中的候選框搜索區(qū)域；?代表的是一種特征映射操作，將原始圖像映射到特定的特征空間，文中采用的是CNN中的卷積層和pooling層；6×6×128代表z經(jīng)過?后得到的特征，是一個128通道6×6大小feature，同理，22×22×128是x經(jīng)過?后的特征；后面的×代表卷積操作，讓22×22×128的feature被6×6×128的卷積核卷積，得到一個17×17的score map，代表著搜索區(qū)域中各個位置與模板相似度值。

算法本身是比較搜索區(qū)域與目標(biāo)模板的相似度，最后得到搜索區(qū)域的score map。其實從原理上來說，這種方法和相關(guān)性濾波的方法很相似。其在搜索區(qū)域中逐點的目標(biāo)模板進(jìn)行匹配，將這種逐點平移匹配計算相似度的方法看成是一種卷積，然后在卷積結(jié)果中找到相似度值最大的點，作為新的目標(biāo)的中心。

上圖所畫的?其實是CNN中的一部分，并且兩個?的網(wǎng)絡(luò)結(jié)構(gòu)是一樣的，這是一種典型的孿生神經(jīng)網(wǎng)絡(luò)，并且在整個模型中只有conv層和pooling層，因此這也是一種典型的全卷積（fully-convolutional）神經(jīng)網(wǎng)絡(luò)。

在訓(xùn)練模型的時肯定需要損失函數(shù)，并通過最小化損失函數(shù)來獲取最優(yōu)模型。本文算法為了構(gòu)造有效的損失函數(shù)，對搜索區(qū)域的位置點進(jìn)行了正負(fù)樣本的區(qū)分，即目標(biāo)一定范圍內(nèi)的點作為正樣本，這個范圍外的點作為負(fù)樣本，例如圖1中最右側(cè)生成的score map中，紅色點即正樣本，藍(lán)色點為負(fù)樣本，他們都對應(yīng)于search region中的紅色矩形區(qū)域和藍(lán)色矩形區(qū)域。文章采用的是logistic loss，具體的損失函數(shù)形式如下：

對于score map中了每個點的損失：

l(y,x)=log(1+exp(-xy))

其中v是score map中每個點真實值，y∈{+1,?1}是這個點所對應(yīng)的標(biāo)簽。

上面的是score map中每個點的loss值，而對于score map整體的loss，則采用的是全部點的loss的均值。即：

L(y,v)=\\frac{1}{|D|}\\displaystyle \\sum_{u\\in D}l(y[u],v[u])

這里的u∈D代表score map中的位置。

整個網(wǎng)絡(luò)結(jié)構(gòu)類似與AlexNet，但是沒有最后的全連接層，只有前面的卷積層和pooling層。

整個網(wǎng)絡(luò)結(jié)構(gòu)如上表，其中pooling層采用的是max-pooling，每個卷積層后面都有一個ReLU非線性激活層，但是第五層沒有。另外，在訓(xùn)練的時候，每個ReLU層前都使用了batch normalization（批規(guī)范化是深度學(xué)習(xí)中經(jīng)常見到的一種訓(xùn)練方法，指在采用梯度下降法訓(xùn)練DNN時，對網(wǎng)絡(luò)層中每個mini-batch的數(shù)據(jù)進(jìn)行歸一化，使其均值變?yōu)?，方差變?yōu)?，其主要作用是緩解DNN訓(xùn)練中的梯度消失/爆炸現(xiàn)象，加快模型的訓(xùn)練速度），用于降低過擬合的風(fēng)險。

AlexNet

AlexNet為8層結(jié)構(gòu)，其中前5層為卷積層，后面3層為全連接層；學(xué)習(xí)參數(shù)有6千萬個，神經(jīng)元有650,000個。AlexNet在兩個GPU上運行；AlexNet在第2,4,5層均是前一層自己GPU內(nèi)連接，第3層是與前面兩層全連接，全連接是2個GPU全連接；

RPN層第1,2個卷積層后；Max pooling層在RPN層以及第5個卷積層后。ReLU在每個卷積層以及全連接層后。

卷積核大小數(shù)量：

• conv1:96 11×11×3(個數(shù)/長/寬/深度)
• conv2:256 5×5×48
• conv3:384 3×3×256
• conv4: 384 3×3×192
• conv5: 256 3×3×192

ReLU、雙GPU運算：提高訓(xùn)練速度。（應(yīng)用于所有卷積層和全連接層）

重疊pool池化層：提高精度，不容易產(chǎn)生過度擬合。（應(yīng)用在第一層，第二層，第五層后面）

局部響應(yīng)歸一化層(LRN)：提高精度。（應(yīng)用在第一層和第二層后面）

Dropout：減少過度擬合。（應(yīng)用在前兩個全連接層）

微調(diào)（fine-tune）

看到別人一個很好的模型，雖然針對的具體問題不一樣，但是也想試試看，看能不能得到很好的效果，而且自己的數(shù)據(jù)也不多，怎么辦？沒關(guān)系，把別人現(xiàn)成的訓(xùn)練好了的模型拿過來，換成自己的數(shù)據(jù)，調(diào)整一下參數(shù)，再訓(xùn)練一遍，這就是微調(diào)（fine-tune）。

凍結(jié)預(yù)訓(xùn)練模型的部分卷積層（通常是靠近輸入的多數(shù)卷積層），訓(xùn)練剩下的卷積層（通常是靠近輸出的部分卷積層）和全連接層。從某意義上來說，微調(diào)應(yīng)該是遷移學(xué)習(xí)中的一部分。

感知機：PLA

多層感知機是由感知機推廣而來，感知機學(xué)習(xí)算法(PLA: Perceptron Learning Algorithm)用神經(jīng)元的結(jié)構(gòu)進(jìn)行描述的話就是一個單獨的。

感知機的神經(jīng)網(wǎng)絡(luò)表示如下：

多層感知機：MLP

多層感知機的一個重要特點就是多層，我們將第一層稱之為輸入層，最后一層稱之為輸出層，中間的層稱之為隱層。MLP并沒有規(guī)定隱層的數(shù)量，因此可以根據(jù)各自的需求選擇合適的隱層層數(shù)。且對于輸出層神經(jīng)元的個數(shù)也沒有限制。

MLP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)模型如下,本文中只涉及了一個隱層，輸入只有三個變量[x1,x2,x3]和一個偏置量b，輸出層有三個神經(jīng)元。相比于感知機算法中的神經(jīng)元模型對其進(jìn)行了集成。

ReLU函數(shù)

ReLU函數(shù)公式如下：

RELU(x)= \\begin{cases} x, & \\text {if x>0} \\ 0, & \\text{if x<0} \\end{cases}

圖像如下：

sigmod函數(shù)

sigmod 函數(shù)在趨于正無窮或負(fù)無窮時，函數(shù)趨近平滑狀態(tài)。因為輸出范圍（0，1），所以二分類的概率常常用這個函數(shù)。

sigmoid函數(shù)表達(dá)式如下 ：

f(x)=\\frac{1}{(1-e^{-z})}

圖像如下：

學(xué)習(xí)更多編程知識，請關(guān)注我的公眾號：

[代碼的路]