神經(jīng)網(wǎng)絡(luò)技術(shù)起源于上世紀(jì)五、六十年代,當(dāng)時(shí)叫感知機(jī),擁有輸入層、輸出層和一個(gè)隱含層。輸入的特征向量通過隱含層變換達(dá)到輸出層,在輸出層得到分類結(jié)果,早期感知機(jī)的推動(dòng)者是Ronsenblatt。后來又發(fā)展到多層感知機(jī),而多層感知機(jī)在擺脫早期離散傳輸函數(shù)的束縛,在訓(xùn)練算法上使用Werbos發(fā)明的反向傳播BP算法,這個(gè)就是現(xiàn)在大家常數(shù)的神經(jīng)網(wǎng)絡(luò)NN,而目前存在的神經(jīng)網(wǎng)絡(luò)最常見的有:ANN,RNN,以及CNN。CNN是一種多層神經(jīng)網(wǎng)絡(luò),擅長(zhǎng)處理圖像特別是大圖像的相關(guān)機(jī)器學(xué)習(xí)問題,它可以通過一系列方法,成功將數(shù)據(jù)量龐大的圖像識(shí)別問題不斷將維,最終使其能夠被訓(xùn)練。
GUNNESS開源工具
一個(gè)叫做GUNNESS的全新的開源工具,可以幫助用戶通過SDSoC 開發(fā)環(huán)境很輕松的將二值化神經(jīng)網(wǎng)絡(luò)(BNNs)實(shí)現(xiàn)在Zynq SoC芯片和Zynq UltraScale+ MPSoC芯片上。GUINNESS基于GUI工具而開發(fā),內(nèi)部實(shí)現(xiàn)利用深度學(xué)習(xí)框架來訓(xùn)練一個(gè)二值的CNN。關(guān)于這部分內(nèi)容在今年IEEE的國(guó)際并行和分布式處理的workshop上有一篇論文對(duì)此進(jìn)行了較為全面的介紹(論文名為“on-chip Memory Based binarized Convolutional Deep Neural Network Applying Batch Normalization Free Technique on an FPGA”),論文中,作者Haruyoshi Yonekawa和Hiroki Nakahara描述了一個(gè)他們實(shí)現(xiàn)的系統(tǒng):他們通過在Xilinx ZCU102 Eval 套件上實(shí)現(xiàn)一個(gè)用于運(yùn)行VGG-16 benchmark的二值化CNN邏輯系統(tǒng),其中ZCU102套件其實(shí)是基于Zynq UltraScale+ MPSoC芯片而搭建的。在后來比利時(shí) Ghent的FPL2017中作者Nakahara就GUINNESS工具再次進(jìn)行了介紹。
根據(jù)IEEE中發(fā)表的這篇paper所述,在Zynq上實(shí)現(xiàn)的CNN相比較與在ARM Cortex-A57處理器上運(yùn)行CNN,運(yùn)行速度加快了136.8倍,并且功率有效性也提高了44.7倍之多。與在Nvidia Maxwell GPU上運(yùn)行同樣的CNN相比較,基于Zynq實(shí)現(xiàn)的BNN速度加快了4.9倍之多,功耗效率也增長(zhǎng)了3.8倍。
不過,對(duì)于我們這些游離愛好者來說最值得慶幸的是整個(gè)GUINNESS工具可以在Github上access到(https://github.com/HirokiNakahara/GUINNESS)。
圖:Xilinx ZCU102 Zynq UltraScale+ MPSoC Eval Kit
目前的比較火的概念莫過于機(jī)器學(xué)習(xí),深度學(xué)習(xí),人工智能這三方面了,而這些技術(shù)的實(shí)現(xiàn)都離不開神經(jīng)網(wǎng)絡(luò)的訓(xùn)練,可以說當(dāng)前技術(shù)的熱點(diǎn)非神經(jīng)網(wǎng)絡(luò)莫屬。但是神經(jīng)網(wǎng)絡(luò)算法往往較為復(fù)雜,軟件實(shí)現(xiàn)速度往往無法達(dá)到需求,專用芯片設(shè)計(jì)又功能單一且成本高,而通過FPGA實(shí)現(xiàn)的話,不僅避免的單用途高成本的投入,同時(shí)得到了用戶期望的運(yùn)算速度,一舉兩得。也相信在以后FPGA將會(huì)為神經(jīng)網(wǎng)絡(luò)的研究實(shí)現(xiàn)方面有更大的發(fā)揮空間。
-
FPGA
+關(guān)注
關(guān)注
1642文章
21920瀏覽量
612150 -
神經(jīng)網(wǎng)絡(luò)
+關(guān)注
關(guān)注
42文章
4797瀏覽量
102367 -
人工智能
+關(guān)注
關(guān)注
1804文章
48449瀏覽量
245062
原文標(biāo)題:開源工具助你在FPGA上輕松實(shí)現(xiàn)二值化神經(jīng)網(wǎng)絡(luò)
文章出處:【微信號(hào):FPGA-EETrend,微信公眾號(hào):FPGA開發(fā)圈】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
MATLAB神經(jīng)網(wǎng)絡(luò)工具箱函數(shù)
脈沖耦合神經(jīng)網(wǎng)絡(luò)在FPGA上的實(shí)現(xiàn)誰會(huì)?
labview BP神經(jīng)網(wǎng)絡(luò)的實(shí)現(xiàn)
【PYNQ-Z2申請(qǐng)】基于PYNQ的卷積神經(jīng)網(wǎng)絡(luò)加速
【PYNQ-Z2試用體驗(yàn)】神經(jīng)網(wǎng)絡(luò)基礎(chǔ)知識(shí)
基于賽靈思FPGA的卷積神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)設(shè)計(jì)
如何設(shè)計(jì)BP神經(jīng)網(wǎng)絡(luò)圖像壓縮算法?
如何移植一個(gè)CNN神經(jīng)網(wǎng)絡(luò)到FPGA中?
基于FPGA的神經(jīng)網(wǎng)絡(luò)的性能評(píng)估及局限性
用FPGA去實(shí)現(xiàn)大型神經(jīng)網(wǎng)絡(luò)的設(shè)計(jì)
信息保留的二值神經(jīng)網(wǎng)絡(luò)IR-Net,落地性能和實(shí)用性俱佳

基于FPGA的RBF神經(jīng)網(wǎng)絡(luò)硬件實(shí)現(xiàn)
基于FPGA的神經(jīng)網(wǎng)絡(luò)硬件實(shí)現(xiàn)方法

基于FPGA的RBF神經(jīng)網(wǎng)絡(luò)的硬件實(shí)現(xiàn)

評(píng)論