人工智能（AI）時代已經(jīng)開啟。Allied Market Research報告顯示，到2031年，全球AI芯片市場規(guī)模預計將達到2636億美元。AI芯片市場非常龐大，市場細分方式多樣，包括芯片種類、處理器架構類型、技術、應用、垂直行業(yè)等。不過，AI芯片主要應用于兩個領域，即終端應用（例如手機和智能手表中的芯片）和數(shù)據(jù)中心應用（用于深度學習推理和訓練）。

無論具體應用如何，所有AI芯片都可定義為用來運行機器學習工作負載的集成電路（IC），包括FPGA、GPU或定制ASIC AI加速器等。AI芯片的工作方式與人腦非常相似，能夠在復雜且快速變化的世界中執(zhí)行和處理各種決策及任務。傳統(tǒng)芯片與AI芯片之間的真正區(qū)別在于所能處理的數(shù)據(jù)量和數(shù)據(jù)類型，以及可以同時運行的計算量。與此同時，新的軟件AI算法突破正在推動新的AI芯片架構，助力實現(xiàn)高效的深度學習計算。

本文將進一步討論AI芯片的獨特需求、AI芯片架構的諸多優(yōu)勢，以及AI芯片架構的應用和未來發(fā)展。

AI芯片的獨特需求

AI工作負載非常繁重且要求嚴苛，所需的算力遠超傳統(tǒng)工作負載，因此，在2010年之前，AI芯片的設計還無法做到經(jīng)濟且高效。由于AI需要并行處理大量乘積累加函數(shù)，比如點積函數(shù)，而傳統(tǒng)的GPU恰好能夠以類似的方式并行處理圖形，因此開發(fā)者在AI應用中為GPU找到了新的用途。

過去十年，我們看到了明顯的優(yōu)化。AI要求芯片架構具有合適的處理器、存儲器陣列、高安全性，以及傳感器之間可靠的實時數(shù)據(jù)連接。因此，理想的AI芯片架構應能夠?qū)⒑芏嘤嬎阍痛鎯ζ魅诤系揭粋€芯片中。如今，隨著單芯片的能力逐漸接近極限，AI芯片設計正在轉(zhuǎn)向采用多芯片系統(tǒng)。

在設計中，為了讓激活值達到最大，芯片開發(fā)者需要考慮“權重”和“激活”的參數(shù)。展望未來，要優(yōu)化AI芯片架構以提高效率，兼顧AI的軟硬件設計極其重要。

AI芯片架構的優(yōu)勢

毫無疑問，我們正處于AI復興時期。現(xiàn)在，我們正在攻克AI芯片設計中的種種障礙，AI芯片設計領域也涌現(xiàn)出了很多創(chuàng)新型企業(yè)，這些企業(yè)致力于設計更出色的AI芯片，讓芯片具備前所未有的強大功能。

隨著追求更先進的工藝節(jié)點，AI芯片設計中的時鐘速度可以降低15%-20%，密度可以增加15%-30%，這讓開發(fā)者能夠在一個芯片上集成更多的計算元件。此外，存儲元件也會有所增加，AI技術可以在幾分鐘而不是幾小時內(nèi)完成訓練，從而節(jié)省大量的時間和精力。如果企業(yè)從在線數(shù)據(jù)中心租借空間來設計AI芯片，這種節(jié)省尤為顯著，但即使企業(yè)使用內(nèi)部資源，也可以通過更有效的反復試驗和試錯而獲益。

在我們身邊，AI幾乎無處不在。小到物聯(lián)網(wǎng)芯片，大到服務器、數(shù)據(jù)中心和圖形加速器，AI處理器現(xiàn)已集成到幾乎所有芯片中。當然，需要更高性能的行業(yè)會更多地利用AI芯片架構，但隨著AI芯片的生產(chǎn)成本越來越低，AI芯片架構將會被運用到物聯(lián)網(wǎng)等領域，用于優(yōu)化功耗和實現(xiàn)其他未知的優(yōu)化。

對于AI芯片架構來說，這是一個激動人心的時刻。新思科技預計，由于性能需求，AI芯片設計會繼續(xù)積極采用下一代工藝節(jié)點。此外，開發(fā)者已經(jīng)圍繞不同類型的存儲器、不同類型的處理器技術以及與這些相關的軟件組件，進行了很多探索。

在存儲器方面，芯片開發(fā)者開始將存儲器放在硬件中的實際計算元件旁邊甚至是集成到計算元件中，以加快處理速度。此外，軟件正在推動硬件發(fā)展，也就是說，新的神經(jīng)網(wǎng)絡等軟件AI模型需要新的AI芯片架構。經(jīng)驗證的實時接口以高速、低延遲的方式提供所需的數(shù)據(jù)連接，同時安全策略需要確保整個系統(tǒng)及其數(shù)據(jù)的安全。

最后，在新的AI芯片架構中，光電子技術和Multi-Die系統(tǒng)發(fā)揮著愈加重要的作用，有助于克服一些AI芯片瓶頸。光電子技術提供了一種更加節(jié)能的計算方式，與此同時，隨著不同處理元件之間以及處理單元與存儲器單元之間的連接速度不斷提高，Multi-Die系統(tǒng)（涉及到裸片的異構集成，通常存儲器直接堆疊在計算板上）也有助于提高芯片性能。

AI芯片架構創(chuàng)新將繼續(xù)涌現(xiàn)。新思科技也將走在行業(yè)前沿，積極幫助千行百業(yè)設計下一代AI芯片。