谷歌推出了其最新的人工智能數(shù)據(jù)中心芯片——Trillium。這款芯片是谷歌的第六代產(chǎn)品，與上一代TPU v5e相比，Trillium在每個芯片上的峰值計算性能提高了4.7倍，節(jié)能67%以上。

此外，谷歌還通過增加高帶寬存儲（HBM）容量和整體帶寬，以及引入新的技術(shù)特性，如擴大了矩陣乘單元（MXU）的大小并提高了時鐘速度，以及配備了第三代SparseCore等，進一步提升了Trillium的性能。

SparseCore是Trillium的一個關(guān)鍵特性，它是一種專門用于處理高級排名和推薦工作負載中常見的超大型嵌入的專用加速器。通過戰(zhàn)略性地從張量核心中卸載隨機和細粒度訪問，SparseCore能夠加速嵌入繁重的工作負載。此外，HBM容量和帶寬翻倍后，Trillium可以使用具有更多權(quán)重和更大鍵值緩存的更大模型。

Alphabet首席執(zhí)行官桑達爾·皮查伊（Sundar Pichai）表示，過去六年，行業(yè)對機器學(xué)習(xí)計算機的需求增長了100萬臺，每年大約增長10倍。谷歌推出Trillium AI芯片正是為了應(yīng)對這一日益增長的需求。谷歌本身并不銷售芯片，而是通過其云計算平臺出租訪問權(quán)限。谷歌表示，新芯片Trillium旨在為從大模型生成文本和其他媒體的技術(shù)提供支持，并計劃于2024年末向云客戶提供。

在架構(gòu)設(shè)計上，Trillium可以在單個高帶寬、低延遲的Pod中擴展到多達256個TPU，并且可以擴展到數(shù)百個Pod。這使得Trillium能夠處理更大規(guī)模、更復(fù)雜的人工智能任務(wù)，進一步推動人工智能技術(shù)的發(fā)展和應(yīng)用。

谷歌推出的Trillium AI芯片在性能上實現(xiàn)了近5倍的提升，并在多個方面進行了創(chuàng)新和改進。這款芯片有望在未來的人工智能領(lǐng)域中發(fā)揮重要作用。