一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

在實踐應用中極具潛力的圖神經網絡(GNNs)

獨愛72H ? 來源:讀芯術 ? 作者:讀芯術 ? 2020-03-15 23:13 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

(文章來源:讀芯術)
深度學習已經改變了我們處理數據的方式,通過使用日益增長的計算“廉價”資源(摩爾定律)來解決現實世界問題,并且能夠完成一些人腦幾乎毫不費力就能完成的認知任務,例如圖像分類,自然語言處理,視頻處理等等。

但這些任務具有的大多數數據和結構通常是在歐幾里得空間中表示的。然而,我們目睹了越來越多的問題,這些問題生成的數據來自非歐幾里得域,它們更適合被表示為具有復雜關系和對象之間相互依賴關系的圖。圖數據的復雜性給經典ML算法和現代DL算法帶來了重大挑戰(zhàn)。近來出現了許多擴展DL方法使之用于圖數據的研究。

花點時間想像一下,如果我們收集了所有“獲批”藥物或一般藥物的結構,并訓練一個GNN來學習藥物的分子模式/結構,它會學會識別在此處或太空中發(fā)現的分子是不是藥物。我相信結果可能相當令人驚訝,并且能幫助我們發(fā)現或重新發(fā)現可以治愈如今被認為無法治愈的疾病的藥物。如果考慮大多數疾病甚至死亡本身都可以看作是技術問題。那么為什么有些生物可以活幾百年而有些只能活幾十年?我們可以無限延長壽命嗎?

GNNs與對應的DL算法具有相似的屬性,它能夠進行回歸,分類,為空節(jié)點和邊生成數據,以及許多尚待發(fā)現的功能。該領域仍處于起步階段,誰也不知道幾年內我們能做些什么,以及用從現在開始的幾千篇論文做些什么。對我來說,最有趣的是推薦以及醫(yī)療領域的應用,其中醫(yī)療領域為no.1。

如今,圖可能是不規(guī)則的,一張圖可能具有可變數目的無序節(jié)點,并且圖中節(jié)點可能具有不同數量的鄰居,從而導致一些在圖像領域中易于計算的重要的操作(例如卷積),很難應用于圖域。此外,現有機器學習算法的核心假設是實體相互獨立。該假設不再適用于圖數據,因為每個實體(節(jié)點)通過各種類別的鏈接(例如引文,好友和交互)與其他實體(節(jié)點)相關聯(lián)。但這不是障礙,因為最近我們看到人們對擴展或者應該說是移植深度學習算法到圖領域(尤其是設計來用于圖數據)的興趣日益濃厚。

卷積神經網絡(ConvNets)不在本文討論范圍之內。循環(huán)圖神經網絡(RecGNNs)大多是圖神經網絡的開創(chuàng)性作品。RecGNN旨在學習具有循環(huán)神經架構的節(jié)點表示。它們假設圖中的節(jié)點不斷與其鄰居交換信息/消息,直到達到穩(wěn)定的平衡。RecGNNs在理論上很重要,它啟發(fā)了后來對卷積圖神經網絡的研究。特別地,消息傳遞的思想被基于空間的卷積圖神經網絡所繼承。

卷積圖神經網絡(ConvGNNs)將卷積運算從網格數據推廣到了圖形數據。主要思想是通過聚合節(jié)點自身的特征和鄰居的特征來生成節(jié)點的表示,其中。與RecGNNs不同,ConvGNNs堆疊多個圖卷積層以提取高級節(jié)點表示。ConvGNNs在建立許多其它的復雜GNN模型中起著核心作用。圖2a展示了用于節(jié)點分類的ConvGNN。圖2b展示了用于圖分類的ConvGNN。

圖自動編碼器(GAEs)是無監(jiān)督的學習框架,可將節(jié)點/圖編碼到潛在的矢量空間中,并通過編碼后的信息重建圖數據。GAEs用于學習網絡嵌入和圖生成分布。對于網絡嵌入,GAEs通過重建圖結構信息(例如圖鄰接矩陣)來學習潛在節(jié)點表示。對于圖生成,某些方法逐步生成圖的節(jié)點和邊,而其他方法則一次全部輸出圖形。圖2c展示了一個用于網絡嵌入的GAE。

時空圖神經網絡(STGNNs)旨在從時空圖中學習隱藏的模式,這種模式在各種應用中變得越來越重要,例如交通速度預測,駕駛員操縱預期和人類動作識別。STGNNs的關鍵思想是同時考慮空間依賴性和時間依賴性。許多當前的方法將用來捕獲空間依賴性的圖卷積和用來對時間依賴性進行建模的RNNs或CN

圖分類旨在預測整個圖的類標簽。可以通過圖卷積層,圖池層和/或讀出層的組合來實現此任務的端到端學習。圖卷積層負責精確的高級節(jié)點表示,而圖池化層則充當下采樣的角色,從而每次將每個圖都粗化為子結構。讀出層將每個圖的節(jié)點表示折疊為圖表示。通過將多層感知器和softmax層應用于圖表示,我們可以構建用于圖分類的端到端框架。在圖2b中給出了一個例子。

當圖中沒有可用的類標簽時,可以在端到端框架中以完全無監(jiān)督的方式學習圖嵌入。這些算法以兩種方式利用邊級信息。一種簡單的方法是采用自動編碼器框架,其編碼器使用圖卷積層將圖嵌入到潛在表示中,在其上使用解碼器來重構圖結構。另一種流行的方法是利用負采樣方法,該方法將一部分節(jié)點對采樣為負對,而圖中具有鏈接的現有節(jié)點對為正對。然后應用邏輯回歸層來區(qū)分正對和負對。
(責任編輯:fqj)

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 神經網絡
    +關注

    關注

    42

    文章

    4814

    瀏覽量

    103641
  • 深度學習
    +關注

    關注

    73

    文章

    5561

    瀏覽量

    122799
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    神經網絡專家系統(tǒng)電機故障診斷中的應用

    的診斷誤差。仿真結果驗證了該算法的有效性。 純分享帖,需要者可點擊附件免費獲取完整資料~~~*附件:神經網絡專家系統(tǒng)電機故障診斷中的應用.pdf【免責聲明】本文系網絡轉載,版權歸原作者所有。本文所用視頻、圖片、文字如涉及作品版
    發(fā)表于 06-16 22:09

    BP神經網絡與卷積神經網絡的比較

    BP神經網絡與卷積神經網絡多個方面存在顯著差異,以下是對兩者的比較: 一、結構特點 BP神經網絡 : BP神經網絡是一種多層的前饋
    的頭像 發(fā)表于 02-12 15:53 ?672次閱讀

    什么是BP神經網絡的反向傳播算法

    神經網絡(即反向傳播神經網絡)的核心,它建立梯度下降法的基礎上,是一種適合于多層神經元網絡的學習算法。該算法通過計算每層網絡的誤差,并將這
    的頭像 發(fā)表于 02-12 15:18 ?774次閱讀

    BP神經網絡與深度學習的關系

    BP神經網絡與深度學習之間存在著密切的關系,以下是對它們之間關系的介紹: 一、BP神經網絡的基本概念 BP神經網絡,即反向傳播神經網絡(Backpropagation Neural N
    的頭像 發(fā)表于 02-12 15:15 ?863次閱讀

    BP神經網絡圖像識別中的應用

    BP神經網絡圖像識別中發(fā)揮著重要作用,其多層結構使得網絡能夠學習到復雜的特征表達,適用于處理非線性問題。以下是對BP神經網絡圖像識別中應
    的頭像 發(fā)表于 02-12 15:12 ?680次閱讀

    人工神經網絡的原理和多種神經網絡架構方法

    在上一篇文章中,我們介紹了傳統(tǒng)機器學習的基礎知識和多種算法。本文中,我們會介紹人工神經網絡的原理和多種神經網絡架構方法,供各位老師選擇。 01 人工神經網絡 ? 人工
    的頭像 發(fā)表于 01-09 10:24 ?1202次閱讀
    人工<b class='flag-5'>神經網絡</b>的原理和多種<b class='flag-5'>神經網絡</b>架構方法

    經典神經網絡(GNNs)的基準分析研究

    本文簡要介紹了經典神經網絡GNNs)的基準分析研究,發(fā)表 NeurIPS 2024。 文章回顧了經典 GNNs 模型
    的頭像 發(fā)表于 11-27 09:16 ?800次閱讀
    經典<b class='flag-5'>圖</b><b class='flag-5'>神經網絡</b>(<b class='flag-5'>GNNs</b>)的基準分析研究

    卷積神經網絡與傳統(tǒng)神經網絡的比較

    深度學習領域,神經網絡模型被廣泛應用于各種任務,如圖像識別、自然語言處理和游戲智能等。其中,卷積神經網絡(CNNs)和傳統(tǒng)神經網絡是兩種常見的模型。 1. 結構差異 1.1 傳統(tǒng)
    的頭像 發(fā)表于 11-15 14:53 ?1878次閱讀

    RNN模型與傳統(tǒng)神經網絡的區(qū)別

    神經網絡是機器學習領域中的一種強大工具,它們能夠模擬人腦處理信息的方式。隨著技術的發(fā)展,神經網絡的類型也不斷增加,其中循環(huán)神經網絡(RNN)和傳統(tǒng)
    的頭像 發(fā)表于 11-15 09:42 ?1131次閱讀

    LSTM神經網絡的結構與工作機制

    LSTM(Long Short-Term Memory,長短期記憶)神經網絡是一種特殊的循環(huán)神經網絡(RNN),設計用于解決長期依賴問題,特別是處理時間序列數據時表現出色。以下是LSTM神經
    的頭像 發(fā)表于 11-13 10:05 ?1632次閱讀

    LSTM神經網絡的基本原理 如何實現LSTM神經網絡

    LSTM(長短期記憶)神經網絡是一種特殊的循環(huán)神經網絡(RNN),它能夠學習長期依賴信息。處理序列數據時,如時間序列分析、自然語言處理等,LSTM因其能夠有效地捕捉時間序列中的長期依賴關系而受到
    的頭像 發(fā)表于 11-13 09:53 ?1587次閱讀

    Moku人工神經網絡101

    Moku3.3版更新Moku:Pro平臺新增了全新的儀器功能【神經網絡】,使用戶能夠Moku設備上部署實時機器學習算法,進行快速、靈活的信號分析、去噪、傳感器調節(jié)校準、閉環(huán)反饋等應用。如果您
    的頭像 發(fā)表于 11-01 08:06 ?666次閱讀
    Moku人工<b class='flag-5'>神經網絡</b>101

    關于卷積神經網絡,這些概念你厘清了么~

    轉換成一個很長的一維向量。轉換是在所謂的壓平層中完成的,隨后是一個或兩個全連接層。全連接層的神經元類似于2所示的結構。神經網絡最后一層的輸出要與需要區(qū)分的類別的數量一致。此外,最后
    發(fā)表于 10-24 13:56

    matlab 神經網絡 數學建模數值分析

    matlab神經網絡 數學建模數值分析 精通的可以討論下
    發(fā)表于 09-18 15:14

    FPGA深度神經網絡中的應用

    隨著人工智能技術的飛速發(fā)展,深度神經網絡(Deep Neural Network, DNN)作為其核心算法之一,圖像識別、語音識別、自然語言處理等領域取得了顯著成果。然而,傳統(tǒng)的深度神經網絡模型
    的頭像 發(fā)表于 07-24 10:42 ?1206次閱讀