雖然訓(xùn)練 AI 需要超強大的 GPU 算力，但 AI 算法的執(zhí)行首先需要超高效的芯片。就像 AmpereCPU，未來的 AmpereOne 將擁有不少于256個內(nèi)核，其功率僅為350W。(原文轉(zhuǎn)自 Adrian Branco 發(fā)表于2024年6月10日)

Adrian Branco pour les Numériques - AmpereOne 256

或許你永遠無需自己購買處理器，但毫無疑問，你每天都會在不知不覺中使用。Ampere Computing 是一家美國公司，由英特爾前高管 Renée James 創(chuàng)立。Ampere 的使命是設(shè)計和銷售用于數(shù)據(jù)中心和超級計算機的基于 ARM 架構(gòu)的CPU，其最新一代 AmpereOne 不久前剛剛亮相。 這與我們的應(yīng)用程序和使用有什么關(guān)系呢?隨著基于云的 AI 助手的不斷發(fā)展，行業(yè)玩家們正在努力尋求降低購買和消費方面的使用費用。在這個游戲中，Ampere 基于ARM 架構(gòu)的 CPU 具有很多優(yōu)勢。

首先讓我們來談?wù)勑酒弘m然192核5nm版本的 AmpereOne 已經(jīng)上市，并集成到法國 Scaleway 公司(我們?nèi)ツ?2月訪問過其后臺)等數(shù)據(jù)中心，但 Ampere 未來的芯片將走得更遠。得益于迄今為止蘋果芯片獨有的3nm工藝，Ampere 能夠?qū)?nèi)核數(shù)量增加33%，將 CPU 核心數(shù)量提高到256個。 但是，面對越來越耗電的芯片，英特爾正在積極研發(fā)從1KW到2KW的散熱芯片，英偉達毫不掩飾自己也在走同樣的道路 —— Ampere 正在做戰(zhàn)略性的押注，以不斷散熱的方式尋求性能提升。通過添加越來越多的內(nèi)核來實現(xiàn)這一點，即創(chuàng)造更加高效的“心”。

恒定功耗下的更多內(nèi)核

Jeff Wittich, Chief Product Officer at Ampere

根據(jù) Ampere 的路線圖，該公司計劃于2025年推出的下一代旗艦產(chǎn)品 AmpereOne 將擁有256個內(nèi)核。但正如 Ampere 首席產(chǎn)品官 Jeff Wittich 所解釋的那樣，這種芯片與 GPU 和其他高功率加速器相反?！皵?shù)據(jù)中心行業(yè)的能源消耗增長速度是不可持續(xù)的，你不可能總是消耗更多的電力，你必須盡可能優(yōu)化消耗。我們在市場上的優(yōu)勢在于，我們設(shè)計了一種專門用于云計算的芯片架構(gòu)。盡管我們的競爭對手擁有云前和 AI 前的核心設(shè)計，但我們的 CPU 內(nèi)核和芯片完全是為滿足這一需求而設(shè)計的”， Jeff 說。

Ampere 的第一個武器是其芯片中嵌入的內(nèi)核數(shù)量驚人。“目前，我們最密集的芯片有192個 CPU 內(nèi)核。但到2025年，我們的3nm AmpereOne 將提供不少于256個內(nèi)核?！?這就是 Ampere 的第二個武器。新芯片的功耗將與當(dāng)前芯片完全相同，也就是說 “在300W到350W之間”，Jeff解釋道，“我們不想消耗更多的能源，我們總是想用同樣的功率做更多的事情。Ampere 的架構(gòu)是可擴展的，特別適合 AI ”。等一下，AI不是 GPU 的領(lǐng)域嗎?

85%的AI與訓(xùn)練無關(guān)

Victor Jakubiuk, Head of AI at Ampere

面對如今市值達30000億美元的英偉達，一個小玩家如何撼動這樣一個龐然大物呢?Ampere AI 主管 Victor Jakubiuk 解釋道：“這不是一回事。強大的 GPU 是用來訓(xùn)練 AI 的。我們談?wù)摰氖敲芗陀嬎?，這需要高性能的芯片。但 AI 訓(xùn)練只占該領(lǐng)域相關(guān)計算的15%。剩下的85%用于推理，即使用這些 AI。因為一旦一個模型經(jīng)過訓(xùn)練，需要數(shù)周或數(shù)月的時間，它就會被數(shù)百萬用戶大量使用。這就是 Ampere 處理器的用武之地” 。

以最優(yōu)化的方式運行模型的處理器，它們是什么型號?Jeff Wittich 回答說：“除了 CPU 的經(jīng)典用途(如MongoDB等數(shù)據(jù)庫)外，我們的 CPU 核心還用于許多日常任務(wù)。當(dāng)您觀看視頻時，我們的 CPU 負責(zé)生成自動字幕并翻譯這些字幕。當(dāng)您在銀行應(yīng)用程序中使用聊天機器人時，我們的 CPU 可能也在運行并提供支持”。

真正的節(jié)省，而不僅僅是在AI方面

Damien Lucas, CEO of Scaleway

為了驗證 Ampere 團隊的說法，我們回到了去年我們見過的 Scaleway 首席執(zhí)行官 Damien Lucas 那里。他面帶微笑，非常直接地說：“Ampere 芯片的節(jié)能是真實的”。他說，雖然 ARM CPU 在數(shù)據(jù)中心的發(fā)展之路并不總是一帆風(fēng)順， 但“自從 Scaleway 幾年前提出并停止使用ARM以來”，該指令集正在強勢回歸，“這要歸功于客戶的需求。我認為，一方面，壟斷對市場來說從來都不是一件好事，但另一方面，Ampere CPU 可以顯著節(jié)省能源”。根據(jù) Ampere 的說法，在 AI 中，這意味著 “與英偉達 GPU 相比，推理的增益從 x3到x5”。

An Ampere server from Scaleway

效率的提高并不局限于 AI 推理領(lǐng)域。Damien Lucas 表示：“雖然我們將所有技術(shù)和芯片都投放市場，為客戶服務(wù)，但由于我們與每個人合作，我們在Scaleway 也有自己的基礎(chǔ)設(shè)施。事實是，我們已經(jīng)將所有內(nèi)部服務(wù)器從 x86切換到了Ampere。我們的能源費用減少了30%” 他非常興奮地說。

但是，不要被云玩家的責(zé)任沖昏頭腦：盡管那些有推理需求的人可能會集體轉(zhuǎn)向 Ampere 這樣的芯片，但與能耗這個龐然大物對抗仍有很長的路要走。 “目前這是一場與時間的賽跑?？捎玫?GPU 永遠不夠。在 Scaleway，我們?yōu)樗蓄愋偷目蛻籼峁┓?wù)。我們可以清楚地看到雙重趨勢：一方面，我們稱之為超密集型計算，另一方面是超高效計算”。能效，是Ampere的強項。

2030年將推出1000核處理器?

處理器計算能力的提高面臨著巨大的挑戰(zhàn)，比如進一步降低雕刻技巧的困難。然而，Jeff Wittich 似乎并不擔(dān)心芯片每瓦性能的未來改進。他向我們保證：“即使制造工藝多年來一直停留在3nm，即使使用350W的封裝，我們?nèi)匀豢梢宰龅酶?。?在同意做出預(yù)測之前，他承諾：“即使有這些限制，到2030年，我們也可以擁有1000核芯片。我們的架構(gòu)仍有很大的空間”。 最后他總結(jié)道：“因為在我們的世界里，我們不再浪費能源?！?/p>

關(guān)于 Ampere Computing

Ampere Computing 是一家現(xiàn)代化半導(dǎo)體企業(yè)，致力于塑造云計算的未來，并推出了世界上首款云原生處理器。為可持續(xù)云而生，Ampere 云原生處理器兼具最高性能和最佳每瓦性能，助力加速多種云計算應(yīng)用的交付，為云提供行業(yè)領(lǐng)先的性能、能效和可擴展性。