一、概述

NEON是ARM上使用的一種SIMD（Single Instruction Multiple Data – 單指令多數(shù)據(jù)）指令集?？蓪崿F(xiàn)64位/128位的并行計算。簡單理解就是一個計算指令，可以指定4個Float和4個Float并行計算（也可以是其他數(shù)據(jù)類型，但是必須包含在64位/128位內(nèi)），得到4個Float結(jié)果。而不是一次只能一個Float和一個Float的計算。

比如在RGB顏色轉(zhuǎn)灰色時，計算公式為：Gray = R *0.299 + G *0.587 + B * 0.114，計算過程是由3個float乘法，2個加發(fā)組成，共有5個計算指令；如果直接使用NEON指令，就是可以直接通過一個指令計算完成，提升80%的理論性能。

矩陣計算就更為明顯，在4x4的矩陣和4個元素的向量相乘時，有16個float乘法和12個加法計算；NEON可以4個指令直接計算，提升的性能更明顯。

當(dāng)然，這種計算需要是一種矩陣或者像素計算密集型的場景，比如RGB圖片轉(zhuǎn)黑白色，不通過GPU加速，而是通過CPU計算的場景；有多個3D模型，每幀需要為每個3D模型進行矩陣計算等等。

二、NEON在矩陣&向量中的計算示例

向量的點積運算示例（這里向量以4個元素為例，前3個元素通常表示3D空間的xyz坐標(biāo)，第4個元素w用于齊次坐標(biāo)；也可以表示顏色的RGBA）。兩個向量分別是：，，向量的點積計算公式：。對應(yīng)的NEON加速代碼如下：

類似vdupq_n_f32、vld1q_f32、vmlaq_f32、vadd_f32、vget_lane_f32等等APIs，都是ARM NEON的intrinsics指令，C格式的API。并且這些APIs都定義在arm_neon.h頭文件中。ARM NEON指令有兩種實現(xiàn)方式，一種就是示例中的Intrinsics指令，另外一種就是直接使用NEON的匯編指令，嵌入到C語言代碼中。我們這里只是以Intrinsics指令為例，匯編指令在原理上一樣。

三、示例代碼中APIs的說明

3.1 ARM NEON向量寄存器

向量寄存器用來存放向量數(shù)據(jù)，每個向量元素的類型必須相同。這個向量寄存器有128位，AArch64有32個這個寄存器，AArch32/Armv7有16個這個寄存器。

每個寄存器可以表示2個double float類型數(shù)據(jù)（每個數(shù)據(jù)占用64位），4個float類型數(shù)據(jù)（每個數(shù)據(jù)占用32位），8個short類型數(shù)據(jù)（每個數(shù)據(jù)占用16位），16個byte類型數(shù)據(jù)（每個數(shù)據(jù)占用8位）。數(shù)據(jù)類型可以是整形，也可以是浮點數(shù)，只要占用位數(shù)對齊，類型統(tǒng)一即可。

3.2 示例說明

在計算時，第一步是要把C代碼中定義的數(shù)據(jù)（數(shù)組的形式存在，在運行棧中，或者在堆中）加載到向量寄存器中，第二步通過寄存器進行并行計算，第三步把結(jié)果寫入到指定寄存器，第四步寄存器結(jié)果寫入C代碼對應(yīng)的變量中（即C語言的?；蛘叨阎校?/p>

第一步：vld1q_f32的意思就是把” A + k”地址指向的內(nèi)容加載到向量寄存器。f32的意思是，一個值是32位。這個命令是從指定地址，連續(xù)復(fù)制數(shù)據(jù)到寄存器，并填滿寄存器。比如，這里一個數(shù)據(jù)是32位，一個寄存器128位，也就是這個命令會連續(xù)填充4個f32值。說明：這里是多對（“K”個）向量進行點積計算。

第二步：vmlaq_f32意思是把兩個寄存器中，并行4個通道的4個f32分別對應(yīng)相乘，同時把結(jié)果和保存結(jié)果的寄存器對應(yīng)通道進行累加。

第三步：vget_high_f32、vget_low_f32是取寄存器的高位和低位（按照f32的type，分別有2個通道），vadd_f32就是獲取高位2通道和低位2通道分別相加，存到一個float32x2_t數(shù)據(jù)格式用（f32類型，2通道）。vpadd_f32中的p是pairwise，意思是將參數(shù)兩個向量的相鄰數(shù)據(jù)進行計算，這里就是r自己的2個相鄰?fù)ǖ老嗉印?/p>

第四步：vget_lane_f32比較簡單，就是獲取第一個參數(shù)寄存器中指定通道的值。這里就是第0通道的值。并寫會到一個float值中。

四、點積的推廣

這里的點積相對比較復(fù)雜，考慮到了一些通用性。這里使用了一個for循環(huán)，當(dāng)只是計算兩個4元素向量的點積時，可以把for循環(huán)去掉，vmlaq_f32由vmull_f32替換即可。vmull_f32的原型：Result_t vmull_type(Vector_t N, Vector_t M)，Result_t可以是float32x4_t，M和N就是left_vec和right_vec。

如果進行叉乘，則不需要進行第三步，直接返回一個float32x4_t的類型數(shù)據(jù)即可。

如果計算矩陣(4x4)和向量(4通道)相乘，就是計算點積4次，并且結(jié)果分別放到float32x4_t類型的4個通道中。

如果是矩陣(4x4)相乘則是4個叉乘。

這四種情況可以自己根據(jù)上方點積的計算方式，獨立寫出。

五、數(shù)據(jù)類型和函數(shù)指令說明

其實NEON Intrinsics指令中，對使用的變量類型、函數(shù)定義做了擴展，便于記憶和理解。

1.比如下方的數(shù)據(jù)類型：

A. int是數(shù)據(jù)類型，可以是int/uint/float/poly等等。

B. 后邊幾個數(shù)字由‘x’號鏈接，第一個數(shù)字就是每個元素的大小，這里是bit，而非Byte，可以是8/16/32/64。

C. 第二個數(shù)字是通道。比如表示顏色的RGBA，就是4通道，每個通道可以用一個byte表示（這里其實就是int8類型）。表示3D空間坐標(biāo)，可以是xyz，就是3通道。如果是一個2D平面，就是一個xy，2通道了。

D. 最后一個數(shù)字表示有多少個。比如一個3D空間坐標(biāo)xyz，一個四邊形有4個頂點，這里就可以表示4（這個值通常是一個2的次冪數(shù)）。

這里可以根據(jù)實際情況選擇自己的數(shù)據(jù)類型。不過要注意，這里要和128位對齊，符合自己實際數(shù)據(jù)對齊邏輯，不能超出。

2.函數(shù)也有類似的表達方式，例如：

v表示的AArch32/Armv7的指令

p表示pairwise計算。這里表示的是a和b向量的相鄰數(shù)據(jù)進行兩兩和操作，如下方的操作方式：

add就是加法，加減乘除普通計算，還有一些操作，比如加載、存儲、移位、邏輯計算、類型轉(zhuǎn)換等等。

q表示試用128位的向量計算器，不然就使用64位向量寄存器。

s8就是數(shù)類型了，可以是：u8、s8、u16、s16、u32、s32、f32、f64。

更多的內(nèi)容可以在底部參考資料中，找到相關(guān)內(nèi)容。

通過數(shù)據(jù)類型和函數(shù)類型，我們就可以根據(jù)實際情況，結(jié)合這些函數(shù)，封裝我們自己的加速代碼邏輯，達到優(yōu)化的目的。

六、總結(jié)

這里只是對點積計算方式進行了解析，同時對于其他情況的推廣。其實對于int、char等類型可以類比計算。對像素、向量、矩陣等等的計算會成倍提升（理論性能提升16、8、4、2倍不等，根據(jù)實際類型確定）。特別是在移動端，圖形計算、圖形處理領(lǐng)域，CPU性能遇到瓶頸，進行性能優(yōu)化時，NEON指令是一個不錯的優(yōu)化點。