“Google 最新的 AI Agent 通過融合大語言模型創(chuàng)造力與自動(dòng)評(píng)估器 推動(dòng)數(shù)學(xué)與計(jì)算領(lǐng)域算法進(jìn)化。”
大語言模型(LLMs)具有驚人的多功能性。它們能夠總結(jié)文檔、生成代碼,甚至構(gòu)思創(chuàng)新理念。如今,Google 進(jìn)一步擴(kuò)展這些能力,將其應(yīng)用于解決數(shù)學(xué)基礎(chǔ)領(lǐng)域和現(xiàn)代計(jì)算中高度復(fù)雜的難題。
AlphaEvolve 是一款由大語言模型驅(qū)動(dòng)的進(jìn)化式編程代理,致力于通用算法的發(fā)現(xiàn)與優(yōu)化。該平臺(tái)將 Gemini 模型的創(chuàng)造性問題解決能力與驗(yàn)證答案的自動(dòng)評(píng)估系統(tǒng)相結(jié)合,并通過進(jìn)化框架持續(xù)優(yōu)化最具潛力的解決方案。
AlphaEvolve 已成功提升谷歌數(shù)據(jù)中心運(yùn)營(yíng)效率、芯片設(shè)計(jì)流程及 AI 訓(xùn)練系統(tǒng)性能,包括支撐 AlphaEvolve 本身的大語言模型訓(xùn)練。該平臺(tái)還助力開發(fā)更高效的矩陣乘法算法,并為數(shù)學(xué)開放性問題提供創(chuàng)新解法,展現(xiàn)出跨領(lǐng)域應(yīng)用的非凡潛力。
使用 LLM 設(shè)計(jì)更好的算法
2023年,Google 首次證實(shí)大語言模型能夠生成計(jì)算機(jī)代碼函數(shù),助力在開放性科學(xué)問題上發(fā)現(xiàn)可驗(yàn)證的新知識(shí)。AlphaEvolve 作為智能代理,其能力已突破單一函數(shù)發(fā)現(xiàn)的局限,能夠?qū)崿F(xiàn)完整代碼庫(kù)的進(jìn)化,并開發(fā)復(fù)雜度顯著提升的算法體系。
AlphaEvolve整合了多款尖端大語言模型:速度最快、效率最優(yōu)的 Gemini Flash 模型負(fù)責(zé)最大限度拓展創(chuàng)意探索的廣度,而性能最強(qiáng)的 Gemini Pro 模型則通過深度洞察提供關(guān)鍵優(yōu)化建議。兩大模型協(xié)同工作,共同生成實(shí)現(xiàn)算法解決方案的計(jì)算機(jī)程序。
提示采樣器首先為語言模型構(gòu)建提示指令,隨后模型生成新程序。這些程序經(jīng)評(píng)估器驗(yàn)證后存入程序數(shù)據(jù)庫(kù)。該數(shù)據(jù)庫(kù)運(yùn)行進(jìn)化算法,決定哪些程序?qū)⒂糜诤罄m(xù)提示生成
AlphaEvolve 通過自動(dòng)化評(píng)估指標(biāo)對(duì)建議程序進(jìn)行驗(yàn)證、運(yùn)行與評(píng)分。這些指標(biāo)為每個(gè)解決方案的準(zhǔn)確性與質(zhì)量提供客觀可量化的評(píng)估。這種特性使其在數(shù)學(xué)、計(jì)算機(jī)科學(xué)等能夠進(jìn)行清晰系統(tǒng)化衡量進(jìn)展的領(lǐng)域展現(xiàn)獨(dú)特優(yōu)勢(shì)。
優(yōu)化計(jì)算生態(tài)
過去一年間,Google 在 AlphaEvolve 平臺(tái)發(fā)現(xiàn)的新型算法整合部署于谷歌計(jì)算生態(tài)的各個(gè)環(huán)節(jié),涵蓋數(shù)據(jù)中心、硬件架構(gòu)與軟件開發(fā)。每一項(xiàng)改進(jìn)的效能通過我們的AI與計(jì)算基礎(chǔ)設(shè)施進(jìn)行指數(shù)級(jí)放大,旨在為全球用戶構(gòu)建更強(qiáng)效且可持續(xù)發(fā)展的數(shù)字化生態(tài)系統(tǒng)。
示意圖展示AlphaEvolve如何助力谷歌實(shí)現(xiàn)更高效的數(shù)字化生態(tài),包括數(shù)據(jù)中心調(diào)度優(yōu)化、硬件系統(tǒng)設(shè)計(jì)革新及AI模型訓(xùn)練升級(jí)。
數(shù)據(jù)中心調(diào)度優(yōu)化
AlphaEvolve 發(fā)現(xiàn)了一種簡(jiǎn)潔高效的啟發(fā)式算法,助力 Borg 系統(tǒng)更高效協(xié)調(diào)谷歌超大規(guī)模數(shù)據(jù)中心集群。該方案已穩(wěn)定運(yùn)行逾一年,平均持續(xù)回收谷歌全球計(jì)算資源的 0.7%。這種持久的效率提升意味著在同等算力規(guī)模下,系統(tǒng)可完成更多任務(wù)。該方案不僅性能卓越,更具備人類可讀代碼的核心運(yùn)維優(yōu)勢(shì):良好的可解釋性、易調(diào)試性、可預(yù)測(cè)性及便捷部署特性。
助力硬件設(shè)計(jì)(Verilog)
在矩陣乘法核心優(yōu)化電路設(shè)計(jì)中,AlphaEvolve 提出 Verilog 重寫方案,成功剔除冗余邏輯單元。關(guān)鍵突破在于,該方案通過了嚴(yán)格的驗(yàn)證流程,確保修改后電路功能完整性。這項(xiàng)創(chuàng)新已被集成至新一代張量處理單元(TPU):谷歌自主研發(fā)的AI加速芯片。通過使用芯片設(shè)計(jì)標(biāo)準(zhǔn)語言提出優(yōu)化建議,AlphaEvolve 開創(chuàng)了 AI 與硬件工程師協(xié)同創(chuàng)新的新模式,有力推進(jìn)專用芯片研發(fā)進(jìn)程。
強(qiáng)化AI訓(xùn)練與推理
AlphaEvolve 顯著提升 AI 性能與研發(fā)效率。通過智能劃分大型矩陣運(yùn)算為可管理子問題,該平臺(tái)將 Gemini 架構(gòu)核心運(yùn)算速度提升23%,對(duì)應(yīng)縮短1%模型訓(xùn)練時(shí)間。鑒于生成式 AI 訓(xùn)練所需龐大算力,每項(xiàng)效率突破都將轉(zhuǎn)化為顯著成本節(jié)約。除性能提升外,AlphaEvolve 將核心優(yōu)化所需工程時(shí)間從專家數(shù)周工作量壓縮至自動(dòng)化實(shí)驗(yàn)數(shù)日周期,大幅加速研究迭代速度。
在 GPU 底層指令優(yōu)化層面,AlphaEvolve 展現(xiàn)出突破性能力。該領(lǐng)域通常由編譯器深度優(yōu)化,工程師鮮少直接修改。通過優(yōu)化 Transformer 架構(gòu)中 FlashAttention 核心實(shí)現(xiàn),AlphaEvolve 取得高達(dá) 32.5% 的速度提升。此類優(yōu)化不僅幫助專家定位性能瓶頸,更便于將改進(jìn)方案集成至代碼庫(kù),有效提升開發(fā)效率并實(shí)現(xiàn)算力與能源的持續(xù)優(yōu)化。
數(shù)學(xué)前沿與算法發(fā)現(xiàn)突破
AlphaEvolve 在復(fù)雜數(shù)學(xué)問題上展現(xiàn)出創(chuàng)新求解能力?;诮o定的程序代碼框架,該平臺(tái)自主設(shè)計(jì)了新型梯度優(yōu)化流程的多個(gè)組件,成功發(fā)現(xiàn)計(jì)算機(jī)科學(xué)基礎(chǔ)問題:矩陣乘法的多個(gè)新算法。這種創(chuàng)新范式為算法發(fā)現(xiàn)領(lǐng)域開辟了嶄新路徑。
列表展示AlphaEvolve為加速矩陣乘法算法提出的多維度改進(jìn)方案。該案例中,平臺(tái)針對(duì)優(yōu)化器與權(quán)重初始化模塊、損失函數(shù)及超參數(shù)掃描機(jī)制提出系統(tǒng)性改造方案,涉及15項(xiàng)關(guān)鍵進(jìn)化步驟的深度調(diào)整。
AlphaEvolve 成功開發(fā)出 4×4 復(fù)值矩陣乘法新算法,僅需 48 次標(biāo)量乘法運(yùn)算,超越 1969 年 Strassen 算法在此領(lǐng)域的長(zhǎng)期最優(yōu)紀(jì)錄。這一突破標(biāo)志著相較于專攻矩陣乘法的前代系統(tǒng) AlphaTensor 的重大進(jìn)步:后者在 4×4 矩陣領(lǐng)域僅實(shí)現(xiàn)二進(jìn)制算術(shù)的局部?jī)?yōu)化。
為評(píng)估系統(tǒng)普適性,我們?cè)跀?shù)學(xué)分析、幾何學(xué)、組合數(shù)學(xué)與數(shù)論領(lǐng)域選取 50 余個(gè)開放性問題進(jìn)行驗(yàn)證。得益于平臺(tái)的高度靈活性,多數(shù)實(shí)驗(yàn)配置可在數(shù)小時(shí)內(nèi)完成。經(jīng)測(cè)試,約 75% 案例成功復(fù)現(xiàn)當(dāng)前學(xué)界最優(yōu)解(基于現(xiàn)有公開知識(shí)體系)。
約 20% 案例實(shí)現(xiàn)已知最優(yōu)解的超越,推動(dòng)相關(guān)開放問題研究進(jìn)程。典型案例如"接吻數(shù)問題",這個(gè)困擾數(shù)學(xué)家三百余年的幾何難題,探討單位球體周圍可容納的最大非重疊外圍球體數(shù)量。AlphaEvolve 成功構(gòu)建含 593個(gè) 外圍球體的空間配置,在 11 維空間中確立新的下限紀(jì)錄。
發(fā)展路徑展望
AlphaEvolve 展現(xiàn)了從特定領(lǐng)域算法發(fā)現(xiàn)到應(yīng)對(duì)復(fù)雜現(xiàn)實(shí)挑戰(zhàn)的系統(tǒng)進(jìn)化能力。隨著大語言模型編碼能力的持續(xù)突破,特別是代碼生成水平的提升,我們預(yù)期該平臺(tái)將實(shí)現(xiàn)更顯著的性能躍升。
與人機(jī)協(xié)作研究團(tuán)隊(duì)(PAIR)合作,我們正構(gòu)建直觀的 AlphaEvolve 交互界面。計(jì)劃啟動(dòng)精選學(xué)術(shù)用戶的早期體驗(yàn)計(jì)劃,同時(shí)探索更廣泛的應(yīng)用場(chǎng)景。
雖然當(dāng)前主要應(yīng)用于數(shù)學(xué)與計(jì)算領(lǐng)域,但其通用架構(gòu)支持所有算法化解決方案的自動(dòng)化驗(yàn)證場(chǎng)景。我們預(yù)見 AlphaEvolve 將在材料科學(xué)、藥物研發(fā)、可持續(xù)發(fā)展等更多領(lǐng)域引發(fā)革命性突破,拓展技術(shù)與商業(yè)創(chuàng)新的邊界。
-
Gemini
+關(guān)注
關(guān)注
0文章
68瀏覽量
7924 -
算法
+關(guān)注
關(guān)注
23文章
4710瀏覽量
95405 -
編程
+關(guān)注
關(guān)注
88文章
3689瀏覽量
95270 -
Agent
+關(guān)注
關(guān)注
0文章
133瀏覽量
27840 -
KiCAD
+關(guān)注
關(guān)注
5文章
261瀏覽量
9536
發(fā)布評(píng)論請(qǐng)先 登錄
AlphaEvolve有望革新AI玩具芯片設(shè)計(jì),算法進(jìn)化驅(qū)動(dòng)能效與成本雙突破
【「零基礎(chǔ)開發(fā)AI Agent」閱讀體驗(yàn)】+Agent開發(fā)平臺(tái)
RT8482是一款電流模式PWM控制器,設(shè)計(jì)用于驅(qū)動(dòng)外部MOSFET,用于高電流LED應(yīng)用
求一款用于物體探測(cè)與統(tǒng)計(jì)的電路設(shè)計(jì)
分享一款不錯(cuò)的音頻信號(hào)采集與AGC算法的DSP設(shè)計(jì)方案
介紹一款多功能編程器
一款支持Lua編程的RTOS
分享一款高速人臉檢測(cè)算法
基于遺傳算法的多agent聯(lián)盟的生成
一款帶觸摸屏的高級(jí)FM收音機(jī)接收器

一款用于Windows的開源反rookit (ARK)工具

評(píng)論