字節(jié)跳動豆包大模型Foundation團(tuán)隊(duì)近期在稀疏模型架構(gòu)領(lǐng)域取得了新突破，提出了一種名為UltraMem的新型架構(gòu)。這一架構(gòu)通過將計(jì)算和參數(shù)解耦，成功解決了模型推理過程中的訪存問題，為大規(guī)模模型的應(yīng)用提供了有力支持。

據(jù)介紹，UltraMem架構(gòu)針對MoE(Mixture of Experts，專家混合)模型推理時(shí)存在的高額訪存問題進(jìn)行了優(yōu)化。傳統(tǒng)MoE模型在推理時(shí)，由于需要頻繁訪問大量參數(shù)，導(dǎo)致推理速度受限，成本高昂。而UltraMem架構(gòu)通過創(chuàng)新的稀疏設(shè)計(jì)，有效降低了模型推理時(shí)的訪存需求，從而大幅提升了推理速度。

具體來說，UltraMem架構(gòu)的推理速度較傳統(tǒng)MoE架構(gòu)提升了2-6倍，同時(shí)推理成本最高可降低83%。這一成果在保證模型效果的前提下，顯著提高了模型推理的效率和經(jīng)濟(jì)效益，為大規(guī)模模型在實(shí)際場景中的應(yīng)用開辟了新途徑。

UltraMem架構(gòu)的提出，標(biāo)志著字節(jié)跳動豆包大模型團(tuán)隊(duì)在稀疏模型架構(gòu)領(lǐng)域取得了重要進(jìn)展。未來，該團(tuán)隊(duì)將繼續(xù)致力于優(yōu)化和完善稀疏模型架構(gòu)，推動人工智能技術(shù)的進(jìn)一步發(fā)展和應(yīng)用。