一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

如何發(fā)現(xiàn)AI+Science中的下一個(gè)AlphaFold和ChatGPT?

bzdlyqxsl ? 來源:信息與電子工程前沿FITE ? 2023-04-21 09:56 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

導(dǎo)語

從微觀到宏觀,跨越廣闊的空間和時(shí)間尺度,AI + Science 在發(fā)現(xiàn)基本粒子、量子計(jì)算、蛋白質(zhì)模擬、材料設(shè)計(jì)、可控核聚變、氣象預(yù)測(cè)、碳捕捉等政策設(shè)計(jì)、探索浩瀚宇宙等各個(gè)方面,都發(fā)揮著重要作用。一方面,各個(gè)科學(xué)領(lǐng)域中的重大問題為 AI 研究帶來全新的挑戰(zhàn)和機(jī)會(huì);另一方面,最新的 AI 技術(shù)為解決科學(xué)領(lǐng)域的問題提供了強(qiáng)大的工具。

在集智俱樂部 AI + Science 讀書會(huì)第一期,斯坦福大學(xué)計(jì)算機(jī)科學(xué)系博士后研究員吳泰霖從 AI for Science 和 Science for AI 兩個(gè)方向,探討為何要將 AI 與 Science 結(jié)合,以及 AI + Science 下一步關(guān)注的重要問題和未來面對(duì)的挑戰(zhàn)。今天的文章整理自此次分享。

本文由第一期 AI + Science 讀書會(huì)第一期總結(jié)而成。在此次分享中,講者吳泰霖主要就以下幾個(gè)方面展開論述:

我們?yōu)槭裁匆懻?AI + Science?

AI for Science 關(guān)注的核心問題,以及前沿進(jìn)展有哪些;

Science for AI 領(lǐng)域的核心問題,以及前沿進(jìn)展有哪些;

AI + Science 下一步關(guān)注什么問題?

1. 我們?yōu)槭裁匆懻?AI + Science ?

AI + Science 這一領(lǐng)域可以分為 AI for Science 和 Science for AI 兩個(gè)部分。前者指利用AI技術(shù)為科學(xué)發(fā)現(xiàn)賦能,后者指利用科學(xué)知識(shí)設(shè)計(jì)出更強(qiáng)大的AI技術(shù)。 在 AI for Science 部分,許多前沿的AI技術(shù)可以幫助科學(xué)發(fā)現(xiàn),主要包括: 1)在數(shù)值模擬方面提升速度和準(zhǔn)確性。如 DeepMind 提出的 GraphCast[1] 能通過輸入60秒的歷史天氣,預(yù)報(bào)未來10天的天氣,不僅在準(zhǔn)確度上極大優(yōu)于傳統(tǒng)預(yù)測(cè)手段,在運(yùn)算效率上也有極大的提升。AlphaFold [2] 的提出將人類蛋白質(zhì)結(jié)構(gòu)預(yù)測(cè)的準(zhǔn)確度提升到了前所未有的水平。 2)幫助科學(xué)家探索科學(xué)框架的設(shè)計(jì)。我們可以讓AI去更大的設(shè)計(jì)空間搜索設(shè)計(jì)策略和控制優(yōu)化策略。比如近期發(fā)表在Nature 上的工作,使用深度強(qiáng)化學(xué)習(xí)控制核聚變反應(yīng)中的等離子體,第一次發(fā)現(xiàn)了全新的等離子體結(jié)構(gòu)[3]。 3)揭示未發(fā)現(xiàn)的科學(xué)定律和知識(shí)。比如近年的工作 AI Feynman2.0[4],讓AI重新發(fā)現(xiàn)了《費(fèi)曼物理學(xué)講義》中的100個(gè)物理方程,甚至還發(fā)現(xiàn)了新的方程。這類工作可能在很大程度上可以做到幫助人類加快科學(xué)發(fā)現(xiàn)。 更進(jìn)一步來說,科學(xué)技術(shù)的進(jìn)步對(duì)于人類而言,是解放生產(chǎn)力以及獲得可持續(xù)增長(zhǎng)的重要方式之一。

[1]Lam, Remi, et al. "GraphCast: Learning skillful medium-range global weather forecasting." arXiv preprint arXiv:2212.12794 (2022). [2]Lumper, John, et al. "Highly accurate protein structure prediction with AlphaFold." Nature 596.7873 (2021): 583-589 [3]Degrave, Jonas, et al. "Magnetic control of tokamak plasmas through deep reinforcement learning." Nature 602.7897 (2022): 414-419 [4]AI Feynman 2.0 [1]: rediscover top-100 physics equations in Feynman lectures

在 Science for AI 方面,當(dāng)前的科學(xué)也可以為促進(jìn)AI的發(fā)展提供非常有效的幫助,為AI技術(shù)帶來了新的挑戰(zhàn)。如許多物理、化學(xué)等科學(xué)問題面臨超大的狀態(tài)空間搜索,當(dāng)前的AI技術(shù)無法很好地解決。如何解決這些科學(xué)問題,對(duì)AI的發(fā)展提出了更大挑戰(zhàn)。 其次,基于一些科學(xué)先驗(yàn)知識(shí),我們也可以設(shè)計(jì)出更強(qiáng)大的AI模型,在這方面已經(jīng)有了很多工作。比如等變圖網(wǎng)絡(luò)[5]的提出,就是啟發(fā)于物理中的對(duì)稱性,使得模型可以在藥物分子建模等方面滿足需求。同樣在模型中引入對(duì)稱性的工作還有[6],在不同的系統(tǒng)中都極大提高了分子動(dòng)力學(xué)模擬器的性能。另外還有擴(kuò)散模型[7]、能量模型[8]等,都對(duì)神經(jīng)網(wǎng)絡(luò)的建模提供了啟發(fā)。

[5] Victor Garcia Satorras, Emiel Hoogeboom, Max Welling,E(n) Equivariant Graph Neural Networks [2022] [6] Zhang L, Han J, Wang H, et al. Deep potential molecular dynamics: a scalable model with the accuracy of quantum mechanics. Physical review letters, 2018, 120(14): 143001. [7] Sohl-Dickstein J, Weiss E, Maheswaranathan N, et al. Deep unsupervised learning using nonequilibrium thermodynamics. [8] Greydanus, Samuel, Misko Dzamba, and Jason Yosinski. "Hamiltonian neural networks." Advances in neural information processing systems 32 (2019)

AI 和 Science 的結(jié)合是一種雙向的賦能,我們當(dāng)前還有許多事情可以做。下面本文將對(duì)上述提到的內(nèi)容進(jìn)一步詳細(xì)展開論述。

2.AIfor Science

一方面是AI對(duì)科學(xué)的賦能。首先我們可以對(duì)科學(xué)做一個(gè)分解,這個(gè)過程首先是發(fā)現(xiàn)科學(xué)定律,并據(jù)此建立模型,這個(gè)過程在傳統(tǒng)范式中往往非常依賴科學(xué)家個(gè)人的洞察力,如開普勒定律和牛頓定律等;然后我們會(huì)根據(jù)這一模型去模擬真實(shí)世界,解釋更大范圍的事物;最后,我們會(huì)嘗試設(shè)計(jì)出新的系統(tǒng),比如修改模型的參數(shù),或者對(duì)系統(tǒng)進(jìn)行實(shí)驗(yàn)和干預(yù)等,對(duì)系統(tǒng)進(jìn)行控制,對(duì)系統(tǒng)產(chǎn)生進(jìn)一步的了解,從而為進(jìn)一步的科學(xué)發(fā)現(xiàn)創(chuàng)造條件。 而在機(jī)器學(xué)習(xí)中同樣也存在這樣類似的步驟:通過數(shù)據(jù)驅(qū)動(dòng)的方式發(fā)現(xiàn)一個(gè)模型;使用模型對(duì)系統(tǒng)進(jìn)行模擬;最后可以通過控制等方式設(shè)計(jì)出新的系統(tǒng)。所以這二者的相似性就可以引出AI如何賦能科學(xué)的三個(gè)方面:科學(xué)仿真(Simulation)、科學(xué)設(shè)計(jì)(design)、科學(xué)發(fā)現(xiàn)(discovery)。

df2050d2-dfcc-11ed-bfe3-dac502259ad0.png

圖1. 科學(xué)仿真、科學(xué)設(shè)計(jì)與科學(xué)發(fā)現(xiàn)三階段與機(jī)器學(xué)習(xí)的對(duì)應(yīng) 2.1 AI 之于科學(xué)仿真 科學(xué)仿真是指用數(shù)值模擬的形式,在給定系統(tǒng)初始狀態(tài),邊界條件以及參數(shù)的時(shí)候,模擬系統(tǒng)的動(dòng)力學(xué)或者穩(wěn)態(tài)。而通過引入機(jī)器學(xué)習(xí)的方法,模擬的速度和精度都會(huì)得到極大的提高。

df292310-dfcc-11ed-bfe3-dac502259ad0.png

圖2. 動(dòng)力系統(tǒng)仿真示意圖。μt是系統(tǒng)的初始狀態(tài),可以是一個(gè)連續(xù)函數(shù),或者一個(gè)圖;f*是演化動(dòng)力學(xué),可以是偏微分方程的演化,或者是真實(shí)世界的演化;a 是系統(tǒng)不隨時(shí)間變化的靜態(tài)參數(shù);?X是系統(tǒng)的邊界條件。

在科學(xué)仿真過程中,我們首先關(guān)心的問題是希望做到精確模擬。我們可以用傳統(tǒng)的方式,基于第一性原理建立偏微分方程,然后求解。這樣做的好處是解釋性高,并且求解精度有理論保證。但缺陷是運(yùn)算慢,而且對(duì)于很多復(fù)雜的系統(tǒng),可能難以求解,甚至難以寫出偏微分方程。 我們也可以考慮用純數(shù)據(jù)驅(qū)動(dòng)的方式,將圖1中的f*動(dòng)力學(xué)參數(shù)化,用神經(jīng)網(wǎng)絡(luò)強(qiáng)大的擬合能力學(xué)習(xí)出一個(gè)f(θ),使其盡可能接近真實(shí)的動(dòng)力學(xué)。 不過,一個(gè)更好的方式是,我們可以取兩者的長(zhǎng)處,即保留神經(jīng)網(wǎng)絡(luò)的運(yùn)算能力,同時(shí)也加入一些物理先驗(yàn)信息對(duì)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)進(jìn)行約束,或者使用更符合物理直覺的訓(xùn)練方式,使得模型的表現(xiàn)更好。 比如圖神經(jīng)網(wǎng)絡(luò)通過引入圖結(jié)構(gòu)的先驗(yàn)信息,即事先給定微觀粒子之間的相互作用關(guān)系,從而提升神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)能力。這里就我們以一系列基于GNN的工作為例,展開論述GNN在科學(xué)仿真領(lǐng)域的進(jìn)展。 首先是 DeepMind 提出了一種圖網(wǎng)絡(luò)模擬器(Graph Network Simulator,GNS)[8],模擬粒子物理系統(tǒng),可以應(yīng)用于流體力學(xué)或者計(jì)算圖形學(xué)等領(lǐng)域的模擬。具體架構(gòu)如下圖所示。首先根據(jù)先驗(yàn)信息建立一個(gè)圖,然后基于消息傳遞(Message Passing)機(jī)制更新節(jié)點(diǎn)的特征,這里的“消息”可以代表粒子之間的相互作用關(guān)系,通過神經(jīng)網(wǎng)絡(luò)的映射,實(shí)現(xiàn)粒子狀態(tài)的更新,最終實(shí)現(xiàn)模擬粒子通過相互作用發(fā)生運(yùn)動(dòng)的動(dòng)力學(xué)過程。

df2e752c-dfcc-11ed-bfe3-dac502259ad0.png

圖3. 使用圖神經(jīng)網(wǎng)絡(luò)模擬復(fù)雜系統(tǒng)。| 圖片來源: Sanchez-Gonzalez et al. Learning to Simulate Complex Physics with Graph Network. ICML 2020. http://proceedings.mlr.press/v119/sanchez-gonzalez20a/sanchez-gonzalez20a.pdf

隨后提出的 HGNS (Hybrid Graph Network Simulator)方法 [9] 則通過引入多步預(yù)測(cè),和 sector-based 訓(xùn)練技巧,使得神經(jīng)網(wǎng)絡(luò)可以在更加復(fù)雜的系統(tǒng)上進(jìn)行模擬。前文提到的天氣預(yù)報(bào)模型 GraphCast[1],則進(jìn)一步引入多尺度信息,從而實(shí)現(xiàn)大規(guī)模和大尺度的預(yù)測(cè)效果。 另外一個(gè)基于網(wǎng)格的仿真(mesh-based simulation)也使用了圖網(wǎng)絡(luò)建模[10],它們除了引入網(wǎng)格網(wǎng)絡(luò)之外,還基于位置信息引入了不同網(wǎng)格之間的相互作用。這種建模方式也被證明在網(wǎng)格數(shù)據(jù)中有非常好的預(yù)測(cè)效果。這篇工作發(fā)表在了2021年的 ICLR 上。而后續(xù)也有對(duì)其進(jìn)行的改進(jìn)工作,比如通過引入一個(gè)調(diào)控參數(shù),用來平衡預(yù)測(cè)準(zhǔn)確度與預(yù)測(cè)精度[11]。

df464de6-dfcc-11ed-bfe3-dac502259ad0.png

當(dāng)然該領(lǐng)域還有一系列其他優(yōu)秀的工作,比如基于對(duì)稱性提出的等變圖網(wǎng)絡(luò)(equivariant graph)[5],引入動(dòng)量守恒的約束從而提高準(zhǔn)確度[6, 12]。而除了圖神經(jīng)網(wǎng)絡(luò)之外,還有可以引入無限維函數(shù)(infinite dimensional function)建模狀態(tài)空間,引入傅里葉神經(jīng)算子[13]等等,無法在此窮舉展示。

[8]Sanchez-Gonzalez et al. Learning to Simulate Complex Physics with Graph Network. ICML 2020. [9] Wu, Tailin, et al. "Learning large-scale subsurface simulations with a hybrid graph network simulator." SIGKDD 2022 [10]Lam C Y, Lu J R, Udalski A, et al. An Isolated Mass-gap Black Hole or Neutron Star Detected with Astrometric Microlensing[J]. The Astrophysical Journal Letters, 2022, 933(1): L23. 11]Pfaff, Tobias, et al. "Learning mesh-based simulation with graph networks." ICLR 2021 [11]Wu T, Wang Q, Zhang Y, et al. Learning large-scale subsurface simulations with a hybrid graph network simulator. Proceedings of the 28th ACM SIGKDD Conference on Knowledge Discovery and Data Mining. 2022: 4184-4194. [12]Prantl L, Ummenhofer B, Koltun V, et al. Guaranteed Conservation of Momentum for Learning Particle-based Fluid Dynamics. NeurIPS 2022 [13]Li, Zongyi, et al. "Fourier neural operator for parametric partial differential equations." ICLR2021

在仿真領(lǐng)域,我們關(guān)心的另一個(gè)問題是,求解出系統(tǒng)的穩(wěn)定狀態(tài)。這在材料、凝聚態(tài)物理等領(lǐng)域是非常重要的問題。對(duì)于這類問題,模型的輸入就是一個(gè)邊界條件,輸出就是系統(tǒng)的穩(wěn)態(tài)。比如像蛋白質(zhì)折疊問題,我們關(guān)心的是最終結(jié)構(gòu),而不關(guān)心折疊的過程。一個(gè)好的方法就是使用神經(jīng)算子(neural operators)進(jìn)行求解[14-16]。

df522e7c-dfcc-11ed-bfe3-dac502259ad0.png

圖4. 根據(jù)系統(tǒng)邊界條件和參數(shù),求解系統(tǒng)穩(wěn)定狀態(tài)圖示

[14]Li, Zongyi, et al. "Fourier neural operator for parametric partial differential equations." ICLR2021 [15] Li, Zongyi, et al. "Neural operator: Graph kernel network for partial differential equations." arXivpreprint arXiv:2003.03485 (2020). [16]Raissi et al., Journal of Computational physics 378 (2019): 686-707

關(guān)于科學(xué)仿真這個(gè)大領(lǐng)域,除對(duì)于科學(xué)問題來說有重要意義之外,其實(shí)背后還有更大的圖景。比如數(shù)字孿生,我們可以設(shè)想在制造業(yè)中造一個(gè)數(shù)字孿生體,完全模擬生產(chǎn)過程的發(fā)動(dòng)機(jī)結(jié)構(gòu)、系統(tǒng)狀態(tài)、系統(tǒng)演化等等整個(gè)流程,從而實(shí)現(xiàn)對(duì)系統(tǒng)進(jìn)行實(shí)時(shí)監(jiān)測(cè)和調(diào)控。

df5ae594-dfcc-11ed-bfe3-dac502259ad0.png

圖5. 數(shù)字孿生和元宇宙 2.2 AI 之于科學(xué)設(shè)計(jì) 對(duì)于科學(xué)設(shè)計(jì),在此處可以定義為,我們?cè)O(shè)置一個(gè)目標(biāo),希望可以通過某些方式,讓神經(jīng)網(wǎng)絡(luò)自動(dòng)找到可以實(shí)現(xiàn)這一目標(biāo)的初始條件,如蛋白質(zhì)結(jié)構(gòu)設(shè)計(jì);或者找到邊界條件,如設(shè)計(jì)飛機(jī)的形狀;亦或者外部控制條件,如調(diào)控全球變暖。

df66669e-dfcc-11ed-bfe3-dac502259ad0.png

圖6. 科學(xué)設(shè)計(jì)的框架圖 具體實(shí)現(xiàn)方式包括如下幾種: a) 可以用學(xué)習(xí)好的模擬器作為一個(gè)內(nèi)部?jī)?yōu)化循環(huán),實(shí)現(xiàn)邊界條件的確定。比如前文提到的,基于圖網(wǎng)絡(luò)的模擬器GNS就屬于這類方法 [8]。

df745d8a-dfcc-11ed-bfe3-dac502259ad0.png

圖7. GNS實(shí)現(xiàn)粒子運(yùn)動(dòng)路徑的優(yōu)化 b) 可以通過迭代的形式實(shí)現(xiàn)收斂,如 diffusion model,從一個(gè)隨機(jī)分布開始,最終收斂到我們想要的分布。工作[17]是使用幾何圖網(wǎng)絡(luò)(Geomeric Graph Neural Network),結(jié)合擴(kuò)散模型實(shí)現(xiàn)等變圖的生成任務(wù)。對(duì)藥物生成有很強(qiáng)的現(xiàn)實(shí)意義。

df9cc9be-dfcc-11ed-bfe3-dac502259ad0.png

圖8. 基于擴(kuò)散模型的等變圖生成 c) 可直接映射,比如使用 transformer 直接學(xué)習(xí)邊界條件或者系統(tǒng)參數(shù)到目標(biāo)的映射 [18]。

dfae0706-dfcc-11ed-bfe3-dac502259ad0.png

圖9. 直接映射 d) 通過強(qiáng)化學(xué)習(xí)直接設(shè)計(jì)系統(tǒng)本身 [19,20],比如在分子設(shè)計(jì)這一任務(wù)上,可以通過強(qiáng)化學(xué)習(xí)的方式逐一加入原子。還有前面提到的系統(tǒng)控制等任務(wù),也是強(qiáng)化學(xué)習(xí)的強(qiáng)項(xiàng)。

dfba7d2e-dfcc-11ed-bfe3-dac502259ad0.png

圖10. 基于強(qiáng)化學(xué)習(xí)的系統(tǒng)設(shè)計(jì) 而實(shí)際使用也并不局限于以上提到的方法和模型。并且同樣,AI對(duì)于科學(xué)設(shè)計(jì)的增強(qiáng)也使得我們解決數(shù)字孿生這樣的大問題有了進(jìn)一步潛力。

[17]Xu, Minkai, et al. "Geodiff: A geometric diffusion model for molecular conformation [18]Guo, Ruchi, Shuhao Cao, and Long Chen. "Transformer meets boundary value inverse problems." NeurIPS 2022 [19]You, Jiaxuan, et al. "Graph convolutional policy network for goal-directed molecular graph generation." Advances in neural information processing systems 31 (2018). [20]Degrave, Jonas, et al. "Magnetic control of tokamak plasmas through deep reinforcement learning." Nature 602.7897

2.3 AI 之于科學(xué)發(fā)現(xiàn) 科學(xué)家是如何實(shí)現(xiàn)科學(xué)發(fā)現(xiàn)的呢。伽利略發(fā)現(xiàn)單擺周期規(guī)律的過程,首先是通過觀察教堂的臺(tái)燈擺動(dòng)為靈感,發(fā)現(xiàn)臺(tái)燈的擺動(dòng)周期是固定的,并且和擺動(dòng)的幅度沒有關(guān)系。然后他將這一過程抽象為了一個(gè)單擺運(yùn)動(dòng),在這一系統(tǒng)上總結(jié)出了一些定量的規(guī)律。最后,再將這一過程向所有類似的系統(tǒng)中進(jìn)行泛化。 所以,根據(jù)這一例子我們可以總結(jié)來看,科學(xué)發(fā)現(xiàn)的步驟可以大致分為:概念的發(fā)現(xiàn),規(guī)律的總結(jié),以及概念的泛化這幾個(gè)步驟(如圖11所示):

dfc7b728-dfcc-11ed-bfe3-dac502259ad0.png

圖11. 科學(xué)發(fā)現(xiàn)的環(huán)節(jié)及其之間的關(guān)系 首先第一個(gè)步驟,發(fā)現(xiàn)概念、表示或者性質(zhì)。比如我們需要對(duì)細(xì)胞的分類進(jìn)行辨識(shí)、分類、表示,或發(fā)現(xiàn)系統(tǒng)的因果結(jié)構(gòu),或者發(fā)現(xiàn)系統(tǒng)的對(duì)稱性等性質(zhì)等等。而AI在表征學(xué)習(xí)、分類學(xué)習(xí)、因果發(fā)現(xiàn)等領(lǐng)域都能夠幫助我們?cè)谶@一個(gè)步驟的能力得到增強(qiáng)。近期劉子鳴等人的工作使用機(jī)器學(xué)習(xí)算法發(fā)現(xiàn)了守恒律 [21]。 其次是發(fā)現(xiàn)概念之間的關(guān)系,即物理定律發(fā)現(xiàn)的過程。我們也可以使用數(shù)據(jù)驅(qū)動(dòng)的方式發(fā)現(xiàn)公式。這里涉及到符號(hào)回歸相關(guān)的技術(shù),也有了相當(dāng)一部分的工作,比如前文提到的AI費(fèi)曼2.0等 [22-24]。 最后是概念的泛化。這可以對(duì)應(yīng)的例子是,將能量模型(Energy-based model)累加后得到更復(fù)雜的模型[25,26],從而獲得更好的效果。以及 few-shot 學(xué)習(xí)[27],大模型中上下文學(xué)習(xí)的使用等 [28],都可以做到將模型泛化到更復(fù)雜的概念和使用場(chǎng)景中。

dfd1f27e-dfcc-11ed-bfe3-dac502259ad0.png

圖12. 使用符號(hào)回歸發(fā)現(xiàn)物理定律。| 來源:Udrescu, Silviu-Marian, et al. "AI Feynman 2.0: Pareto-optimal symbolic regression exploiting graph modularity." NeurIPS 2020 https://arxiv.org/abs/2006.10782

[21]Liu, Ziming, and Max Tegmark. "Machine learning conservation laws from trajectories." Physical Review Letters 126.18 (2021): 180604. [22]Udrescu, Silviu-Marian, et al. "AI Feynman 2.0: Pareto-optimal symbolic regression exploiting graph modularity." NeurIPS 2020 [23] Wu, Tailin, and Max Tegmark. "Toward an artificial intelligence physicist for unsupervised learning." Physical Review E 100.3 (2019): 033311. [24] Mundhenk, Terrell, et al. "Symbolic regression via deep reinforcement learning enhanced genetic programming seeding." NeurIPS 2021 [25] Du, Yilun, Shuang Li, and Igor Mordatch. "Compositional visual generation with energy based models." NeurIPS 2020 [26] Wu, Tailin, et al. "Zeroc: A neuro-symbolic model for zero-shot concept recognition and acquisition at inference time." NeurIPS 2022 [27] Cao, Kaidi, Maria Brbic, and Jure Leskovec. "Concept learners for few-shot learning." ICLR 2021 [28] Brown, Tom, et al. "Language models are few-shot learners." NeurIPS 2020

3. Science for AI

對(duì)于科學(xué)增強(qiáng)AI這一部分內(nèi)容,核心觀點(diǎn)在于,我們可以將科學(xué)中的很多概念或定律作為先驗(yàn)知識(shí)或約束引入AI模型,使得模型表現(xiàn)出更強(qiáng)大的效果,圖5展示了部分科學(xué)概念引入AI模型,并為AI模型取得重大突破的例子。 在讀書會(huì)后續(xù)的分享中,會(huì)展開介紹其中一些重要的分支。比如物理啟發(fā)的生成模型,包括能量模型、擴(kuò)散模型、量子生成模型等[29],以及一些物理啟發(fā)的學(xué)習(xí)理論,如相變、場(chǎng)論等理論啟發(fā)的學(xué)習(xí)模型[30]。

dfd94470-dfcc-11ed-bfe3-dac502259ad0.png

dff71d6a-dfcc-11ed-bfe3-dac502259ad0.png

圖13. 科學(xué)概念對(duì)于AI模型的增強(qiáng)

[29] Xu, Yilun, et al. "Poisson flow generative models." NeurIPS 2022 [30] Liu, Ziming, et al. "Towards understanding grokking: An effective theory of representation learning." Advances in Neural Information Processing Systems 35 (2022): 34651-34663.

4. AI + Science 下一步關(guān)注什么問題?

AI+Science是一個(gè)逐漸興起的研究方向。在這個(gè)領(lǐng)域我們接下來應(yīng)該關(guān)注的是什么問題呢?講者認(rèn)為,一個(gè)足夠重要且有潛力的問題應(yīng)該滿足以下幾個(gè)條件:

1)普適且影響深遠(yuǎn)。也就是說這個(gè)問題的解決方案可以被用于解決其他很多問題。

2)這個(gè)問題本身可能目前看起來是模糊的,但在2-3年內(nèi)是有希望解決的;

3)有充足的數(shù)據(jù);

4)有明確的評(píng)價(jià)目標(biāo); 可以看到,像 ChatGPT 和 AlphaFold 其實(shí)都滿足這樣的條件,現(xiàn)如今它們也確實(shí)成為了AI技術(shù)的現(xiàn)象級(jí)產(chǎn)品?;蛟S沿著這一思路,下一個(gè) ChatGPT 和 AlphaFold 也將很快出現(xiàn)。吳泰霖老師也在分享時(shí)提出了自己的想法:我們是否能夠創(chuàng)建一個(gè)集成平臺(tái),我們只需要給出一些文本命令或者函數(shù)形式,這個(gè)平臺(tái)就能夠自動(dòng)設(shè)計(jì)出符合我們要求的系統(tǒng),比如發(fā)動(dòng)機(jī)的形狀,或者給出系統(tǒng)最優(yōu)的參數(shù)等。 AI + Science 正方興未艾,AI和科學(xué)的結(jié)合僅被挖掘出了冰山一角,而AI的迅速發(fā)展又能給二者結(jié)合的效能提供強(qiáng)有力的潛力。對(duì)于AI + Science,這是一個(gè)最好的時(shí)代。

審核編輯 :李倩

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • AI
    AI
    +關(guān)注

    關(guān)注

    88

    文章

    35041

    瀏覽量

    279227
  • ai技術(shù)
    +關(guān)注

    關(guān)注

    1

    文章

    1308

    瀏覽量

    25143
  • ChatGPT
    +關(guān)注

    關(guān)注

    29

    文章

    1589

    瀏覽量

    9064

原文標(biāo)題:如何發(fā)現(xiàn) AI+Science 中的下一個(gè) AlphaFold 和 ChatGPT?

文章出處:【微信號(hào):信息與電子工程前沿FITEE,微信公眾號(hào):信息與電子工程前沿FITEE】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    大家都在用什么AI軟件?有沒有好用的免費(fèi)的AI軟件推薦下?

    大家都在用什么AI軟件?有沒有好用的免費(fèi)的AI軟件推薦下?直接發(fā)個(gè)安裝包,謝謝。比如deepseek、Chatgpt、豆包、阿里AI、百度
    發(fā)表于 07-09 18:30

    AI真會(huì)人格分裂!OpenAI最新發(fā)現(xiàn)ChatGPT善惡開關(guān)已開啟

    AI現(xiàn)在就像個(gè)小朋友,很容易就學(xué)壞了!OpenAI剛剛發(fā)現(xiàn),如果用錯(cuò)誤的數(shù)據(jù)微調(diào)自家的模型的個(gè)
    的頭像 發(fā)表于 06-20 12:41 ?1203次閱讀
    <b class='flag-5'>AI</b>真會(huì)人格分裂!OpenAI最新<b class='flag-5'>發(fā)現(xiàn)</b>,<b class='flag-5'>ChatGPT</b>善惡開關(guān)已開啟

    ad7616 burst模式讀取數(shù)據(jù)時(shí),是否可以在下一個(gè)convst啟動(dòng)轉(zhuǎn)換?

    ad7616 burst模式讀取數(shù)據(jù)時(shí),是否可以在下一個(gè)convst啟動(dòng)轉(zhuǎn)換,但busy還沒有拉低的情況下繼續(xù)讀取上次轉(zhuǎn)換的數(shù)據(jù)嗎?主要是串行讀取時(shí),有可能出現(xiàn)convst臨界的情況,如果這樣可以的話,能夠提升小部分con
    發(fā)表于 04-15 07:50

    和安信可Ai-M61模組對(duì)話?手搓個(gè)ChatGPT 語音助手 #人工智能 #

    ChatGPT
    jf_31745078
    發(fā)布于 :2025年03月12日 15:56:59

    能和Ai-M61模組對(duì)話了?手搓個(gè)ChatGPT 語音助手

    也爭(zhēng)先恐后, 安信可的英文名是Ai-Thinker, 我們也直在思考 人工智能+安信可模組=? 經(jīng)過數(shù)周的努力, Ai-M61-32S是我們嘗試的第一個(gè)模組, 實(shí)現(xiàn)了通過語音接入
    的頭像 發(fā)表于 03-12 11:57 ?1262次閱讀
    能和<b class='flag-5'>Ai</b>-M61模組對(duì)話了?手搓<b class='flag-5'>一</b><b class='flag-5'>個(gè)</b><b class='flag-5'>ChatGPT</b> 語音助手

    ChatGPT背后的AI背景、技術(shù)門道和商業(yè)應(yīng)用

    ,但是當(dāng)篇篇文章/報(bào)告不斷推送到我的眼前,我后知后覺地發(fā)現(xiàn)這次真的不樣。 很直接的點(diǎn)是,ChatGPT已經(jīng)影響到非
    的頭像 發(fā)表于 10-18 15:42 ?3889次閱讀
    <b class='flag-5'>ChatGPT</b>背后的<b class='flag-5'>AI</b>背景、技術(shù)門道和商業(yè)應(yīng)用

    AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新》第6章人AI與能源科學(xué)讀后感

    幸得好書,特此來分享。感謝平臺(tái),感謝作者。受益匪淺。 在閱讀《AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新》的第6章后,我深刻感受到人工智能在能源科學(xué)領(lǐng)域中的巨大潛力和廣泛應(yīng)用。這
    發(fā)表于 10-14 09:27

    AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新》第4章-AI與生命科學(xué)讀后感

    農(nóng)業(yè)、環(huán)保等,為人類社會(huì)的可持續(xù)發(fā)展做出貢獻(xiàn)。 總結(jié) 《AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新》第4章關(guān)于AI與生命科學(xué)的部分,為我們展示了
    發(fā)表于 10-14 09:21

    AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新》第二章AI for Science的技術(shù)支撐學(xué)習(xí)心得

    for Science的技術(shù)支撐”的學(xué)習(xí)心得,可以從以下幾個(gè)方面進(jìn)行歸納和總結(jié): 1. 技術(shù)基礎(chǔ)的深入理解 在閱讀第二章的過程,我對(duì)于AI for Science所需的技術(shù)基礎(chǔ)有了
    發(fā)表于 10-14 09:16

    AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新》第章人工智能驅(qū)動(dòng)的科學(xué)創(chuàng)新學(xué)習(xí)心得

    的發(fā)展機(jī)遇。同時(shí),這也要求科研人員、政策制定者和社會(huì)各界共同努力,構(gòu)建個(gè)健康、包容的AI科研生態(tài)系統(tǒng)。 總之,《AI for Science
    發(fā)表于 10-14 09:12

    使用tSPI協(xié)議減少下一個(gè)多電機(jī)BLDC設(shè)計(jì)的布線

    電子發(fā)燒友網(wǎng)站提供《使用tSPI協(xié)議減少下一個(gè)多電機(jī)BLDC設(shè)計(jì)的布線.pdf》資料免費(fèi)下載
    發(fā)表于 09-26 10:40 ?0次下載
    使用tSPI協(xié)議減少<b class='flag-5'>下一個(gè)</b>多電機(jī)BLDC設(shè)計(jì)的布線

    名單公布!【書籍評(píng)測(cè)活動(dòng)NO.44】AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新

    、污染治理、碳減排三個(gè)方面介紹了人工智能為環(huán)境科學(xué)引入的新價(jià)值和新機(jī)遇。 第8章探討了AI for Science在快速發(fā)展過程面臨的機(jī)遇和挑戰(zhàn),并對(duì)“平臺(tái)科研”模式進(jìn)行了展望。
    發(fā)表于 09-09 13:54

    能否在ESP結(jié)束之前通過串行端口停止傳入的UDP數(shù)據(jù)包的傳輸以解析下一個(gè)UDP數(shù)據(jù)包?

    丟棄在ESP完成之前不需要的數(shù)據(jù)包,以便通過串行端口發(fā)送它以接收下一個(gè)數(shù)據(jù)包, 如果沒有,我必須按順序讀取所有傳入的數(shù)據(jù)包,需要的和不需要的, 而且波特率不足,主機(jī)處理器開銷大, 我能否在 ESP 結(jié)束之前通過串行端口停止傳入的 UDP 數(shù)據(jù)包的傳輸以解析下一個(gè) UDP
    發(fā)表于 07-16 06:18

    一下一個(gè)單片機(jī)的io口分別控制四個(gè)燈板該怎么設(shè)計(jì)電路?

    各位大佬,我想問一下一個(gè)單片機(jī)的io口分別控制四個(gè)燈板該怎么設(shè)計(jì)電路,每個(gè)燈板上有四種不同類型的燈,每種類型的燈有兩個(gè)都通過三極管來驅(qū)動(dòng),那么每種類型的燈都連接到同一個(gè)io口,有四塊板
    發(fā)表于 07-15 19:03