一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

單個神經(jīng)元不可靠!新研究推翻以往認(rèn)知

mK5P_AItists ? 來源:YXQ ? 2019-07-09 17:24 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

一項(xiàng)關(guān)于神經(jīng)元的研究,讓眾人看嗨了。這項(xiàng)研究通過在小鼠身上做實(shí)驗(yàn),先展示了神經(jīng)元“不靠譜”的一面:單個神經(jīng)元兩次對相同視覺刺激的反應(yīng),竟然是不一樣的。

對于神經(jīng)元的“不靠譜”性,此前的解釋一直集中在噪音這個點(diǎn)。

而這項(xiàng)研究卻實(shí)實(shí)在在推翻了此前觀點(diǎn),作者通過實(shí)驗(yàn)證明了:即使有噪音,神經(jīng)元還是有能力獲取高精度的視覺編碼

主導(dǎo)這項(xiàng)研究的小姐姐認(rèn)為,小鼠感知能力的限制不由視覺皮層的神經(jīng)噪音決定,而是受神經(jīng)解碼過程的限制。

在這項(xiàng)推特轉(zhuǎn)發(fā)超過600,點(diǎn)贊超過2000的研究下,神經(jīng)科學(xué)家和AI科學(xué)家一起興奮,“Pretty Cool”“Awesome”“Great story”等贊美聲此起彼伏。

雖然不是AI界日常討論的人工神經(jīng)網(wǎng)絡(luò),而是自然界中動物們身上存在的生物神經(jīng)網(wǎng)絡(luò),兩者并不完全一樣,但動物們自身的特征,卻往往是啟發(fā)科學(xué)家們的關(guān)鍵。

高通深度學(xué)習(xí)研究工程師Jakub Tomczak想到,它和AI中的Dropout十分類似,像是近似貝葉斯平均。

Dropout,正是指的Geoffrey Hinton等人在2014年提出的防止人工神經(jīng)網(wǎng)絡(luò)過擬合的正則化技術(shù),現(xiàn)在已經(jīng)成為了谷歌手中的專利。

AI工程師@AIexLaurence表示,就像AI一樣,單個神經(jīng)元(或者節(jié)點(diǎn))并不表示特定的概念,是由神經(jīng)網(wǎng)絡(luò)中特定的激活模式?jīng)Q定的。

AIexLaurence還認(rèn)為,這項(xiàng)生物學(xué)研究可能會對神經(jīng)網(wǎng)絡(luò)權(quán)重的研究有啟發(fā)。

還有人認(rèn)為,在神經(jīng)元自帶不確定性的前提下,大腦依賴投票/閾值機(jī)制產(chǎn)生的反饋信號來判定輸入的感知信息。另外,除了神經(jīng)的原因之外,也可能是動物眼睛的微觀結(jié)構(gòu)決定。

能讓搞生物的和搞計算機(jī)的有同樣的high點(diǎn),這具體是項(xiàng)怎樣的研究?

“不靠譜”的神經(jīng)元

事情,還要從神經(jīng)元說起。

對,就是中學(xué)生物里構(gòu)成神經(jīng)網(wǎng)絡(luò)的那個長長的細(xì)胞。

可能不少AI領(lǐng)域的同學(xué)還不知道,在神經(jīng)科學(xué)領(lǐng)域,神經(jīng)元和AI界的擁有不確定性的神經(jīng)網(wǎng)絡(luò)一樣,都是不靠譜的存在。

神經(jīng)元,就像一個腦洞清奇的少年,即使是同樣的信息呈現(xiàn)在他面前,他每次都會給出不一樣的反應(yīng)。

究其原因,在于噪聲頻發(fā),影響神經(jīng)編碼。

神經(jīng)編碼,跟計算機(jī)的編碼不是一回事。由于感覺信息與其它信息,都是由腦中的生物神經(jīng)網(wǎng)絡(luò)來承載與呈現(xiàn)的,所以人們認(rèn)為,神經(jīng)元有某種編碼能力,處理你身體感知到的光線、聲音、味道等信息。

也就是說,神經(jīng)編碼過程是試圖建立從刺激到反應(yīng)的映射,著眼于理解神經(jīng)元如何對不同的刺激作出反應(yīng),建立模型來預(yù)測神經(jīng)元對特定刺激的反應(yīng)。

而與之對應(yīng)的神經(jīng)解碼過程,研究的是相反方向的映射,也就是從已知的反應(yīng)來推算外界刺激重建特征。

在這個過程中,是一個“多變”的過程,但總是被冠以“不靠譜”的評價。舉個例子:

假如你問一個神經(jīng)元這個直角屏幕的角度是多少,它一開始說是75度,五分鐘后說是10度,每一次你再問的時候都是一個接近90度的隨機(jī)數(shù)。

再舉個例子,你在計算器上輸入3+7,它每次都給出的是不同的答案……

是不是有種熟悉的感覺?

沒錯,什么人工不人工的智能都差不多。

可是,正經(jīng)的計算設(shè)備不應(yīng)該是這樣的。

這就是讓神經(jīng)科學(xué)家很為難的地方,單個神經(jīng)元得出的結(jié)論是不可靠的(灰色的點(diǎn)),需要多次測量來平均噪聲(圖中黑線)。

那么,一個神經(jīng)元都這么不靠譜了,一群不靠譜的神經(jīng)元竟然能把動物們的神經(jīng)系統(tǒng)構(gòu)建的這么精準(zhǔn),真是個奇跡。

那么,神經(jīng)元們是怎么做到的呢?

這涉及到信噪比的問題。信號強(qiáng)度和疊加次數(shù)成正比,噪聲強(qiáng)度和疊加次數(shù)的平方根成正比,因此疊加次數(shù)越多,信噪比越高。

有人猜測,也許在我們的大腦中,它的運(yùn)算機(jī)制就是數(shù)百萬個嘈雜神經(jīng)元結(jié)論的平均值,通過這種方法來判斷看到的是什么。

可以從幾何的角度解釋這個問題,當(dāng)噪聲與刺激驅(qū)動的相同神經(jīng)子空間對齊時,噪聲只能影響受到刺激部分的編碼。至少,一些神經(jīng)噪聲與刺激子空間正交,所以不會有什么壞的影響。

但是,這些只是理論猜想,如果真的想靠實(shí)踐算出噪聲對神經(jīng)編碼的影響,這很難,畢竟只有少量信息限制的噪聲也會對神經(jīng)編碼有很大影響。

所以,基于以上推測,我們就大致為這種“明明個體不靠譜,群體卻很靠譜”的行為歸納出原因:

把每個神經(jīng)元得出的結(jié)論“神奇組合”一下,得出的平均值,就是最終那個靠譜的結(jié)果。

現(xiàn)在,做個實(shí)驗(yàn),解個碼證明一下吧!

小鼠視力實(shí)驗(yàn)

此前有人做過對猴子的解碼,證明拿一小撮神經(jīng)元做實(shí)驗(yàn)和用上所有神經(jīng)元差不多。

在這個背景下,我們的主角出場了。

一位神經(jīng)科學(xué)家小姐姐Carsen Stringer用小鼠做實(shí)驗(yàn),探究小鼠的感知與單個神經(jīng)元的關(guān)系。

在這次實(shí)驗(yàn)里,小姐姐和她的團(tuán)隊(duì)沒有對猴子下手,而是換了一種動物,盯上了小鼠。

研究人員的目標(biāo)是,通過記錄小鼠20000個神經(jīng)元的數(shù)量,測量視覺刺激定向解碼誤差的下限。

這項(xiàng)實(shí)驗(yàn)的大前提是:如果限制信息噪聲的確有影響,解碼錯誤必須漸近于某個非零值。

具體的給小鼠設(shè)定的挑戰(zhàn)是:

讓小鼠看角度。

基于我們前面已知的“不靠譜”這個特性,可以預(yù)知,給予小鼠相同的視覺刺激,神經(jīng)元的每次反應(yīng)完全不同。

研究人員用顯微鏡同時記錄了約20000個神經(jīng)元的活動。這是一個部分的隨機(jī)顏色:

然后,使用線性回歸找到每個神經(jīng)元的權(quán)重,將它們的活動組合成“超級神經(jīng)元”,對它們的判斷進(jìn)行平均。

這些超級神經(jīng)元比單個神經(jīng)元的噪聲要小很多。其實(shí),在95%的實(shí)驗(yàn)中,超級神經(jīng)元能夠分辨45度和46度之間的微小差異。

一度之差,人類都判斷不出來吧。想象一下,讓一只老鼠分辨出這么微小的差異……另一位研究人員@BenucciLa真的嘗試了,老鼠只能分辨出超過29度的差異,比神經(jīng)元差100倍。

最終,雖然研究人員們把解碼的誤差做到很低了,但是并沒有出現(xiàn)期待中漸近的狀況。

也就是說,視覺皮層對老鼠的視覺特征進(jìn)行了高精確度的編碼,但老鼠依然在辨別方向任務(wù)中完成得很差。

鍋在解碼過程

于是,研究人員得出結(jié)論,老鼠能接受到的信息,比人類大腦能接受的差1000倍。

雖然老鼠不能將這些信息傳遞給人類,但他們也是可以利用這些信息的。比如,這些信息可以作為一種計算的第一步。

這也進(jìn)一步說明,神經(jīng)信號和行為之間的差異不能用刺激的類型來解釋,無論是通過行為狀態(tài)還是反復(fù)試驗(yàn)感知直覺測試。

得出結(jié)論,小鼠感官知覺的局限性不是由感覺皮層的神經(jīng)噪聲決定的,而是由神經(jīng)元下游的解碼過程限制。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 人工智能
    +關(guān)注

    關(guān)注

    1807

    文章

    49029

    瀏覽量

    249642
  • 神經(jīng)元
    +關(guān)注

    關(guān)注

    1

    文章

    368

    瀏覽量

    18842

原文標(biāo)題:單個神經(jīng)元不可靠!這項(xiàng)新研究推翻以往認(rèn)知,感知的最大限制在于解碼過程

文章出處:【微信號:AItists,微信公眾號:人工智能學(xué)家】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點(diǎn)推薦

    無刷直流電機(jī)單神經(jīng)元自適應(yīng)智能控制系統(tǒng)

    摘要:針對無刷直流電機(jī)(BLDCM)設(shè)計了一種可在線學(xué)習(xí)的單神經(jīng)元自適應(yīng)比例-積分-微分(PID)智能控制器,通過有監(jiān)督的 Hebb學(xué)習(xí)規(guī)則調(diào)整權(quán)值,每次采樣根據(jù)反饋誤差對神經(jīng)元權(quán)值進(jìn)行調(diào)整,以實(shí)現(xiàn)
    發(fā)表于 06-26 13:36

    無刷直流電機(jī)單神經(jīng)元PI控制器的設(shè)計

    摘要:研究了一種基于專家系統(tǒng)的單神經(jīng)元PI控制器,并將其應(yīng)用于無刷直流電機(jī)調(diào)速系統(tǒng)中??刂破鲗?shí)現(xiàn)了PI參數(shù)的在線調(diào)整,在具有PID控制器良好動態(tài)性能的同時,減少微分項(xiàng)對系統(tǒng)穩(wěn)態(tài)運(yùn)行時的影響,并較好
    發(fā)表于 06-26 13:34

    神經(jīng)網(wǎng)絡(luò)RAS在異步電機(jī)轉(zhuǎn)速估計中的仿真研究

    可靠性,因此無傳感器矢量控制系統(tǒng)的研究被廣泛重視。眾多學(xué)者對無速度傳感器的電動機(jī)轉(zhuǎn)速辨識進(jìn)行了研究,出現(xiàn)了很多方法,模型參考自適應(yīng)系統(tǒng)(Model Reference Adaptive System)在
    發(fā)表于 06-16 21:54

    BP神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計原則

    ,僅作為數(shù)據(jù)輸入的接口。輸入層的神經(jīng)元個數(shù)通常與輸入數(shù)據(jù)的特征數(shù)量相對應(yīng)。 隱藏層 :對輸入信號進(jìn)行非線性變換,是神經(jīng)網(wǎng)絡(luò)的核心部分,負(fù)責(zé)學(xué)習(xí)輸入與輸出之間的復(fù)雜映射關(guān)系。隱藏層可以有一層或多層,層數(shù)和神經(jīng)元數(shù)量根據(jù)具體問題而定
    的頭像 發(fā)表于 02-12 16:41 ?746次閱讀

    BP神經(jīng)網(wǎng)絡(luò)與卷積神經(jīng)網(wǎng)絡(luò)的比較

    多層。 每一層都由若干個神經(jīng)元構(gòu)成,神經(jīng)元之間通過權(quán)重連接。信號在神經(jīng)網(wǎng)絡(luò)中是前向傳播的,而誤差是反向傳播的。 卷積神經(jīng)網(wǎng)絡(luò)(CNN) : CNN主要由卷積層、池化層和全連接層組成。
    的頭像 發(fā)表于 02-12 15:53 ?673次閱讀

    深度學(xué)習(xí)入門:簡單神經(jīng)網(wǎng)絡(luò)的構(gòu)建與實(shí)現(xiàn)

    深度學(xué)習(xí)中,神經(jīng)網(wǎng)絡(luò)是核心模型。今天我們用 Python 和 NumPy 構(gòu)建一個簡單的神經(jīng)網(wǎng)絡(luò)。 神經(jīng)網(wǎng)絡(luò)由多個神經(jīng)元組成,神經(jīng)元之間通過
    的頭像 發(fā)表于 01-23 13:52 ?533次閱讀

    人工神經(jīng)網(wǎng)絡(luò)的原理和多種神經(jīng)網(wǎng)絡(luò)架構(gòu)方法

    所擬合的數(shù)學(xué)模型的形式受到大腦中神經(jīng)元的連接和行為的啟發(fā),最初是為了研究大腦功能而設(shè)計的。然而,數(shù)據(jù)科學(xué)中常用的神經(jīng)網(wǎng)絡(luò)作為大腦模型已經(jīng)過時,現(xiàn)在它們只是能夠在某些應(yīng)用中提供最先進(jìn)性能的機(jī)器學(xué)習(xí)模型。近年來,由于
    的頭像 發(fā)表于 01-09 10:24 ?1212次閱讀
    人工<b class='flag-5'>神經(jīng)</b>網(wǎng)絡(luò)的原理和多種<b class='flag-5'>神經(jīng)</b>網(wǎng)絡(luò)架構(gòu)方法

    請問ADS1298稱為生理信號測量轉(zhuǎn)換器,和傳統(tǒng)AD轉(zhuǎn)換器有什么區(qū)別?

    請問ADS1298稱為生理信號測量轉(zhuǎn)換器,和傳統(tǒng)AD轉(zhuǎn)換器有什么區(qū)別。我想使用其作為神經(jīng)元和肌肉細(xì)胞信號的檢測,精度要達(dá)到0.1mV以下,不知道是否合適。
    發(fā)表于 01-01 06:39

    一種新型機(jī)翼應(yīng)變載荷關(guān)系神經(jīng)網(wǎng)絡(luò)模型

    兼顧適用范圍和預(yù)測精度。對此,本文提出了映射式與補(bǔ)償式兩種融合“試驗(yàn)-仿真”虛實(shí)數(shù)據(jù)的多級神經(jīng)網(wǎng)絡(luò)架構(gòu),開發(fā)了基于子學(xué)習(xí)器方差的模型認(rèn)知程度度量方法,形成了精度高、適用性廣、能夠預(yù)警不可靠輸出結(jié)果的機(jī)翼應(yīng)變
    的頭像 發(fā)表于 11-21 10:59 ?552次閱讀
    一種新型機(jī)翼應(yīng)變載荷關(guān)系<b class='flag-5'>神經(jīng)</b>網(wǎng)絡(luò)模型

    卷積神經(jīng)網(wǎng)絡(luò)與傳統(tǒng)神經(jīng)網(wǎng)絡(luò)的比較

    神經(jīng)網(wǎng)絡(luò),也稱為全連接神經(jīng)網(wǎng)絡(luò)(Fully Connected Neural Networks,F(xiàn)CNs),其特點(diǎn)是每一層的每個神經(jīng)元都與下一層的所有神經(jīng)元相連。這種結(jié)構(gòu)簡單直觀,但在
    的頭像 發(fā)表于 11-15 14:53 ?1879次閱讀

    RNN模型與傳統(tǒng)神經(jīng)網(wǎng)絡(luò)的區(qū)別

    傳統(tǒng)神經(jīng)網(wǎng)絡(luò)(前饋神經(jīng)網(wǎng)絡(luò)) 2.1 結(jié)構(gòu) 傳統(tǒng)神經(jīng)網(wǎng)絡(luò),通常指的是前饋神經(jīng)網(wǎng)絡(luò)(Feedforward Neural Networks, FNN),是一種最簡單的人工
    的頭像 發(fā)表于 11-15 09:42 ?1133次閱讀

    關(guān)于卷積神經(jīng)網(wǎng)絡(luò),這些概念你厘清了么~

    可以不局限于已知的訓(xùn)練圖像開展識別。該神經(jīng)網(wǎng)絡(luò)需要映射到MCU中。 5、AI的模式識別內(nèi)部到底是什么? AI的神經(jīng)元網(wǎng)絡(luò)類似于人腦的生物神經(jīng)元網(wǎng)絡(luò)。一個神經(jīng)元有多個輸入,但只有一個輸出
    發(fā)表于 10-24 13:56

    顛覆認(rèn)知:大模型不可靠最新研究登上 Nature

    行業(yè)芯事行業(yè)資訊
    電子發(fā)燒友網(wǎng)官方
    發(fā)布于 :2024年09月27日 11:40:10

    數(shù)據(jù)智能系列講座第3期—交流式學(xué)習(xí):神經(jīng)網(wǎng)絡(luò)的精細(xì)與或邏輯與人類認(rèn)知的對齊

    認(rèn)知的對齊報告簡介雖然近年來神經(jīng)網(wǎng)絡(luò)的可解釋性研究得到了廣泛的關(guān)注,但是神經(jīng)網(wǎng)絡(luò)中精細(xì)決策邏輯尚未得到有效的解釋,學(xué)界對神經(jīng)網(wǎng)絡(luò)的評測依然
    的頭像 發(fā)表于 09-25 08:06 ?431次閱讀
    數(shù)據(jù)智能系列講座第3期—交流式學(xué)習(xí):<b class='flag-5'>神經(jīng)</b>網(wǎng)絡(luò)的精細(xì)與或邏輯與人類<b class='flag-5'>認(rèn)知</b>的對齊

    光遺傳學(xué) – 用光控制細(xì)胞和動物

    利用光遺傳學(xué)技術(shù),研究人員只需使用光(通常來自激光器)就能激活、失活和操控神經(jīng)細(xì)胞。 三百多年前,路易吉·伽伐尼發(fā)現(xiàn)青蛙的腿在通電后會產(chǎn)生抽搐。 這是因?yàn)?b class='flag-5'>神經(jīng)細(xì)胞(神經(jīng)元)是通過產(chǎn)生電
    的頭像 發(fā)表于 08-23 06:24 ?502次閱讀
    光遺傳學(xué) – 用光控制細(xì)胞和動物