電子發(fā)燒友網(wǎng)報道（文/周凱揚(yáng)）隨著LLM在內(nèi)的AI模型從規(guī)模和計算復(fù)雜性上成倍增加，與數(shù)年前相比，訓(xùn)練優(yōu)秀AI模型的成本已經(jīng)上升到了一個新的高度。從最近不斷溢價、缺貨搶貨的GPU市場也可以看出，硬件成本已經(jīng)成了AI發(fā)展的最大瓶頸。

為了訓(xùn)練高質(zhì)量的AI模型，堆硬件數(shù)量幾乎是避無可避的。為此，越來越多的AI芯片廠商看到了這個缺口，力求以自己的高性能硬件產(chǎn)品來填補(bǔ)競品造成的缺口。甚至不少此前專注在低功耗/邊緣AI計算的半導(dǎo)體公司，也計劃沖擊著更高的算力。

Leapmind

Leapmind是一家來自日本的邊緣AI公司，其主要產(chǎn)品為超低功耗的AI推理加速器IP，Efficiera。Efficiera專門針對FPGA和ASIC/ASSP設(shè)備上的CNN推理計算進(jìn)行了優(yōu)化，僅需極小的面積和功耗就能實(shí)現(xiàn)優(yōu)異的算力，所以很適合集成在邊緣設(shè)備中。

雖然主打超低功耗，但Efficiera的性能表現(xiàn)卻一點(diǎn)都不差，根據(jù)Leapmind的綜合測試，在7nm工藝和533MHz的主頻下，Efficiera可以實(shí)現(xiàn)107.8TOPS/W的能效表現(xiàn)。加上Efficiera對CNN的優(yōu)化，使其非常適合用于圖像識別類的應(yīng)用，比如AR/VR、智能相機(jī)等。據(jù)Leapmind透露，他們已經(jīng)在臺積電28nm和12nm上用此IP完成了數(shù)個SoC開發(fā)項(xiàng)目。

不過，Leapmind的野心并沒有止步于此，他們同樣看中了LLM大模型市場，計劃開發(fā)一款新的AI芯片來解決性能瓶頸問題。Leapmind指出，新的AI芯片將專注于AI模型訓(xùn)練和推理，目標(biāo)性能是2PFLOPS，且旨在實(shí)現(xiàn)與同等性能GPU 10倍差距的性價比。

這一AI芯片的特點(diǎn)包括，與Efficiera一樣，強(qiáng)調(diào)低精度計算下的性能表現(xiàn)，比如FP8等，從而減少所需的晶體管數(shù)量，也減少DRAM的帶寬壓力。同時Leapmind也會開源相關(guān)的驅(qū)動程序和編譯器，畢竟開發(fā)AI模型所需的軟件棧絕對不是Leapmind這個體量的公司能解決的問題。

Mythic

數(shù)字AI芯片的競爭或許異常激烈，但模擬AI芯片卻是Mythic的主戰(zhàn)場。他們打造的模擬矩陣處理器M1076芯片，可以實(shí)現(xiàn)單芯片25TOPS的性能，標(biāo)準(zhǔn)功耗卻只有3W到4W左右。

其模擬存內(nèi)計算架構(gòu)利用高密度的模擬內(nèi)存來片上存儲神經(jīng)網(wǎng)絡(luò)，而不是像數(shù)據(jù)芯片一樣需要片外數(shù)據(jù)交換，這種架構(gòu)為其提供了遠(yuǎn)低于數(shù)字芯片的功耗和延遲，為此更適合用于圖像傳感類的應(yīng)用，比如物體識別等。

不過M1076的推出似乎并沒有給這家公司帶來足夠的客戶和利潤，哪怕他們甚至打入了洛克希德馬丁的供應(yīng)鏈。從去年底開始，就有報道稱Mythic已經(jīng)耗盡資金，無力進(jìn)行下一代模擬存內(nèi)計算架構(gòu)的研發(fā)。直到今年3月，現(xiàn)有投資者和Catapult Ventures等新投資者為其再度注入了1300萬美元的資金，才將其從危機(jī)中挽救回來。

獲得新一輪融資后的Mythic的目標(biāo)仍是做邊緣端的AI計算，但他們已經(jīng)準(zhǔn)備好對標(biāo)桌面級GPU的算力表現(xiàn)了，為AR頭顯等算力需求持續(xù)拔高的機(jī)器視覺應(yīng)用提供硬件支持。Mythic表示，新的M2000將進(jìn)一步降低大小、功耗和成本，同時具備部署高性能機(jī)器視覺的能力，進(jìn)一步擴(kuò)大應(yīng)用領(lǐng)域。

寫在最后

其實(shí)對于多數(shù)AI初創(chuàng)芯片公司來說，雖然競爭對手?jǐn)?shù)量龐大，但低功耗AI芯片仍是一個相對更容易入局的市場。反倒是到了與GPU拼性能的時候，他們的競爭對手往往變成了GPU大廠或云服務(wù)廠商，所以必須得具備獨(dú)一無二的特性和足夠高的性價比，才能吸引到客戶以及投資。但這也恰好證明了多數(shù)AI芯片的擴(kuò)展性，同樣的架構(gòu)在邊緣AI芯片上實(shí)現(xiàn)后，也能廣泛用于更大規(guī)模的高性能AI芯片上，但他們的差異化戰(zhàn)略能否一并成功延續(xù)過來，仍需要接受局面完全不同的市場考驗(yàn)。