內(nèi)存計(jì)算

內(nèi)存計(jì)算(In-memory Computing ,簡(jiǎn)稱IMC)似乎是EnCharge AI實(shí)現(xiàn)高效率和低功耗的關(guān)鍵因素。該公司在其網(wǎng)站上列出了2019年、2020年和2021年的四份出版物，展示了他們?cè)诟纳艻MC用于人工智能加速方面的研究進(jìn)展。

他們最早的出版物指出，機(jī)器學(xué)習(xí)計(jì)算嚴(yán)重依賴于矩陣向量乘法(MVM)，雖然數(shù)字加速器相對(duì)于普通處理器提供了10-100倍的能效和速度改進(jìn)，但這些收益主要是在計(jì)算方面，而不是在內(nèi)存訪問(wèn)方面，即所謂的“內(nèi)存墻”。在內(nèi)存中來(lái)回移動(dòng)數(shù)據(jù)在功耗和時(shí)間上都有很高的成本。

雖然IMC可以降低功耗和延遲，但在讀取內(nèi)存位時(shí)，需要權(quán)衡更差的信噪比(SNR)。信噪比問(wèn)題在異構(gòu)系統(tǒng)中對(duì)IMC的擴(kuò)展提出了挑戰(zhàn)，而異構(gòu)系統(tǒng)是最有可能在實(shí)際應(yīng)用中使用IMC的場(chǎng)景。

2020年，該研究團(tuán)隊(duì)致力于解決信噪比問(wèn)題，開(kāi)發(fā)了一種利用charge-domin IMC的可編程異構(gòu)架構(gòu)和配套的軟件堆棧。原型基于65納米CMOS實(shí)現(xiàn)。

2021年，該團(tuán)隊(duì)引入了基于電容模擬計(jì)算，以提高從二進(jìn)制矢量輸入到5-b矢量輸入的動(dòng)態(tài)范圍，并在協(xié)同設(shè)計(jì)算法方面取得了進(jìn)展，改善了內(nèi)存映射。

審核編輯：劉清