一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內(nèi)不再提示

國家科學評論 (NSR) 刊發(fā)社論:大語言模型和類腦通用智能

機器人技術與應用 ? 來源:中國科學院自動化研究所 ? 2023-11-16 10:59 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

近日,中國科學院自動化研究所徐波研究員和中國科學院腦科學與智能技術卓越創(chuàng)新中心蒲慕明院士在《國家科學評論》(NSR)上發(fā)表社論,就以促進更加綠色的類腦通用人工智能為目標,評述如何發(fā)展腦啟發(fā)的類腦神經(jīng)網(wǎng)絡架構、類腦學習算法及基于脈沖編碼的類腦計算軟硬件等。

ed34a2fe-839b-11ee-939d-92fbcf53809c.png

《國家科學評論》刊發(fā)社論

大語言模型(LLM)的出現(xiàn)以及它們在生成任務中的驚人表現(xiàn)預示著通用人工智能(AGI)新時代的開始。在很大程度上,它們已經(jīng)通過了經(jīng)典的圖靈測試。

通過與機器人結合,大模型將進一步發(fā)展出更強大的具身智能?;诖笳Z言模型的各種科學、教育和商業(yè)應用正激發(fā)人們對未來人工智能的無限遐想。然而,大語言模型存在著大量的連接參數(shù),它們在訓練和推理階段的計算調(diào)整和并行推理往往消耗了巨大的算力成本,這個問題將限制大語言模型作為社會基礎設施的廣泛應用。

發(fā)展受腦啟發(fā)的類腦通用智能研究是解決現(xiàn)有問題的一種有效途徑。人類大腦是進化過程賦予的一種高效生物神經(jīng)網(wǎng)絡,包含多樣的細胞類型和連接模式,且在人類出生后的腦發(fā)育過程中通過與環(huán)境交互進一步完善并形成高效的連接模式。即使我們不能像圖靈曾經(jīng)提出的那樣制造一個“兒童機器”(Child Machine),通用人工智能也仍然可以從兩個方面向成熟的大腦學習,即神經(jīng)網(wǎng)絡架構和類腦學習算法。

過去的人工神經(jīng)網(wǎng)絡在一定程度上受到了生物腦網(wǎng)絡的啟發(fā),例如分層和模塊化的網(wǎng)絡結構,以及可調(diào)權重的突觸連接。然而,大腦網(wǎng)絡實現(xiàn)高效運轉不僅僅是更多神經(jīng)元和突觸的堆疊,更重要的是不同神經(jīng)元類型以及功能模塊之間的選擇性連接。大腦網(wǎng)絡從局部模式到全局拓撲已經(jīng)啟發(fā)了當今人工智能中的卷積、循環(huán)及多類Transformer等強大神經(jīng)算子。當前,全腦空間轉錄組(用于識別不同的神經(jīng)元亞型)和介觀連接組(用于定義特定細胞類型的連接)的研究,為進一步設計更有效的大語言模型網(wǎng)絡架構提供了更多的生物依據(jù)。

突觸連接往往通過短時和長時的突觸可塑性機制進行神經(jīng)活動的局部調(diào)節(jié)。全局神經(jīng)調(diào)質(zhì)可以在許多突觸上發(fā)揮作用,以改變局部突觸可塑性的能力和特性。類腦學習算法利用大腦發(fā)現(xiàn)的多尺度、多形式的突觸可塑性,如時序依賴突觸可塑性、自組織可塑性傳播、神經(jīng)調(diào)制元可塑性等,來決定網(wǎng)絡突觸權重的動態(tài)變化。類腦學習算法也可以通過梯度下降方法與可塑性學習規(guī)則相結合,使得在沿用反向傳播核心原理同時,解決很多高效計算問題。開發(fā)用于大模型權重學習的新算法需要神經(jīng)科學和人工智能之間的深度融合。

同步開發(fā)新的網(wǎng)絡架構和學習算法將發(fā)展出新形式的類腦計算(BIC),即在神經(jīng)形態(tài)芯片上實現(xiàn)生物啟發(fā)的脈沖神經(jīng)網(wǎng)絡算法(SNN)。在網(wǎng)絡和算法層面,SNN使用具有豐富動力學和脈沖模式的生物神經(jīng)元作為基本計算單元,可以更容易地采用多尺度突觸可塑性進行優(yōu)化。在硬件層面,神經(jīng)形態(tài)芯片需要新一代的非馮·諾依曼計算架構,通過借鑒大腦的事件驅(qū)動稀疏計算、高度并行運算以及存內(nèi)計算來降低硬件功耗成本。類腦計算的一個充滿吸引力的特質(zhì)是,在執(zhí)行推理時,只有一小部分脈沖神經(jīng)元被激活以參與稀疏加法運算。這種稀疏計算非常適合降低大型人工智能模型的訓練和推理成本。

社論認為, 除了開發(fā)綠色和可持續(xù)的低功耗人工智能這個緊迫問題,人們也越來越擔心未來通用人工智能的發(fā)展可能會以有害的方式對人類社會產(chǎn)生重大影響。考慮到存在著政治、社會和文化差異,實現(xiàn)有效的人工智能全球治理不是一個容易實現(xiàn)的目標,但卻是人類生存必需邁出的一步。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴

原文標題:國家科學評論 (NSR) 刊發(fā)社論:大語言模型和類腦通用智能

文章出處:【微信號:robotmagazine,微信公眾號:機器人技術與應用】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    合肥綜合性國家科學中心能源研究院與宏微科技達成合作

    為深化產(chǎn)學研協(xié)同創(chuàng)新,推動科技創(chuàng)新和產(chǎn)業(yè)升級,近日,合肥綜合性國家科學中心能源研究院與江蘇宏微科技股份有限公司在智慧電力中心隆重舉行“功率器件可靠性評測方法和壽命預測聯(lián)合實驗室”簽約揭牌儀式。江蘇宏
    的頭像 發(fā)表于 06-14 14:22 ?431次閱讀

    Matter 智能家居的通用語言

    Matter由連接標準聯(lián)盟(CSA)創(chuàng)建,旨在解決智能家居的互操作性問題。Matter 基于簡單性、互操作性、可靠性和安全性四大核心原則 。 是采用基于 IP 應用層的開源協(xié)議,本質(zhì)上是一種“通用語言
    發(fā)表于 05-19 15:35

    時識科技首批入選智能產(chǎn)業(yè)創(chuàng)新發(fā)展聯(lián)盟

    近日,由中國信息通信研究院牽頭發(fā)起,上海智能產(chǎn)業(yè)三箭齊發(fā)——產(chǎn)業(yè)創(chuàng)新發(fā)展聯(lián)盟成立、未來產(chǎn)業(yè)基金矩陣發(fā)布、未來產(chǎn)業(yè)集聚區(qū)啟動建設,昭示著我國
    的頭像 發(fā)表于 04-23 09:57 ?343次閱讀

    靈汐科技開源深度學習應用開發(fā)平臺BIDL

    近年來,計算作為人工智能領域的重要方向,以其低功耗、高效率、高容錯性等優(yōu)勢,展現(xiàn)出巨大的發(fā)展?jié)摿?。然而?b class='flag-5'>類計算開發(fā)門檻高、與傳統(tǒng)人工神
    的頭像 發(fā)表于 03-05 09:13 ?871次閱讀
    靈汐科技開源<b class='flag-5'>類</b><b class='flag-5'>腦</b>深度學習應用開發(fā)平臺BIDL

    SynSense時識科技亮相CES,展現(xiàn)智能“芯”實力

    近日,在萬眾矚目的CES展會上,SynSense時識科技及其旗下iniVation作為全球領先的智能企業(yè),榮耀登臺,向全球觀眾展示了其卓越的“芯”實力。 此次參展,SynSense時識科技帶來
    的頭像 發(fā)表于 01-13 15:37 ?647次閱讀

    語言模型開發(fā)語言是什么

    在人工智能領域,大語言模型(Large Language Models, LLMs)背后,離不開高效的開發(fā)語言和工具的支持。下面,AI部落小編為您介紹大
    的頭像 發(fā)表于 12-04 11:44 ?650次閱讀

    玻色量子亮相2024年《國家科學評論》物理與信息科學前沿論壇

    此前,2024年11月22至24日,由《中國科學》雜志社、南方科技大學、鵬城實驗室主辦,南方科技大學物理系、計算機科學與工程系承辦,粵港澳大灣區(qū)(廣東)量子科學中心協(xié)辦的2024年《國家科學
    的頭像 發(fā)表于 11-28 09:48 ?622次閱讀

    宇通榮獲2023年度國家科學技術進步獎二等獎

    全國科技大會、國家科學技術獎勵大會、兩院院士大會在北京人民大會堂隆重召開。2023年度國家最高科學技術獎、自然科學獎、技術發(fā)明獎、科技進步獎和國際
    的頭像 發(fā)表于 10-15 09:55 ?887次閱讀

    易華錄榮獲國家科學技術進步獎二等獎

    日前,全國科技大會、國家科學技術獎勵大會、兩院院士大會在京召開,由中國電科牽頭研制、參與研制的17個項目分別獲得“國家科學技術進步獎”“國家技術發(fā)明獎”一、二等獎。
    的頭像 發(fā)表于 08-29 18:01 ?1178次閱讀

    中車株洲電機榮獲2023年度國家科學技術進步獎二等獎

    日前,全國科技大會、國家科學技術獎勵大會、兩院院士大會在京召開。2023年度國家科學技術獎各獎種獲獎名單公布,中車株洲電機公司參與研發(fā)的“超大容量風電能量轉換系統(tǒng)的高性能服役關鍵技術及應用”項目榮獲國家科學技術進步獎二等獎。
    的頭像 發(fā)表于 08-16 09:32 ?837次閱讀

    【《大語言模型應用指南》閱讀體驗】+ 基礎篇

    今天開始學習《大語言模型應用指南》第一篇——基礎篇,對于人工智能相關專業(yè)技術人員應該可以輕松加愉快的完成此篇閱讀,但對于我還是有許多的知識點、專業(yè)術語比較陌生,需要網(wǎng)上搜索學習更多的資料才能理解書中
    發(fā)表于 07-25 14:33

    SynSense時識科技收購瑞士視覺傳感器公司iniVation 100%股權

    SynSense時識科技今日宣布成功收購瑞士視覺傳感器公司iniVation 100%股權。隨著交割完成,SynSense時識科技成為全球首個同時擁有
    的頭像 發(fā)表于 07-19 18:09 ?1922次閱讀

    SynSense時識科技成功收購瑞士視覺傳感器公司iniVation,智能航母蓄勢待發(fā)

    SynSense時識科技今日宣布 成功收購瑞士視覺傳感器公司iniVation 100%股權 。隨著交割完成,SynSense時識科技成為全球首個同時擁有
    發(fā)表于 07-19 18:00 ?733次閱讀
    SynSense時識科技成功收購瑞士<b class='flag-5'>類</b><b class='flag-5'>腦</b>視覺傳感器公司iniVation,<b class='flag-5'>類</b><b class='flag-5'>腦</b><b class='flag-5'>智能</b>航母蓄勢待發(fā)

    語言模型的預訓練

    隨著人工智能技術的飛速發(fā)展,自然語言處理(NLP)作為人工智能領域的一個重要分支,取得了顯著的進步。其中,大語言模型(Large Langu
    的頭像 發(fā)表于 07-11 10:11 ?949次閱讀

    湖北億緯動力榮獲2023年度國家科學技術進步獎二等獎

    6月24日,2023年度國家科學技術獎在首都人民大會堂揭曉,由湖北億緯動力有限公司參與完成的科研項目《大容量鋰離子電池精準制造核心技術與裝備》榮獲國家科學技術進步二等獎。億緯鋰能動力電池研究院院長何巍博士作為項目參與人出席了頒獎儀式。
    的頭像 發(fā)表于 07-05 11:36 ?1012次閱讀