隨著HPC應用地位的日益攀升，GPU的受關注程度似乎達到了新高度。不過現(xiàn)在探討的重點，更偏向于GPU在數(shù)據(jù)中心、汽車等設備之上的應用；畢竟手機、PC之類的消費電子產(chǎn)品近半年略有式微之感。不過原本，GPU在更多市場發(fā)揮作用也是當前的大趨勢。

其中比較顯著的一個議題，就是不只是手機之類的電池驅(qū)動型設備對元件功耗、能效有高要求，像數(shù)據(jù)中心這類原本對芯片功耗沒那么敏感、更偏向高性能的場景，如今也在追求高能效，和算力密度（單位空間內(nèi)所能提供的算力）；以及如汽車電動化趨勢之下，“續(xù)航里程焦慮”也讓其中各類組件的功耗、能效變得尤為關鍵。負責圖形乃至通用計算加速的GPU自然是其中之一；性能和功耗雙方需要進一步得到兼顧。

最近Khronos & Imagination技術研討會在上海舉辦，主體上還是圍繞Khronos的API標準，以及Imagination的GPU IP展開的技術探討。包括芯動科技、芯馳科技等在內(nèi)的下游芯片設計企業(yè)，以及騰訊、字節(jié)跳動等應用端企業(yè)也參與了這次活動。

我們比較感興趣的是，在應對當前GPU發(fā)展趨勢的過程中，Imagination在技術層面都做了些什么。本次研討會的多個議題實際上都著力于解答該問題。而Imagination對GPU架構(gòu)和技術的呈現(xiàn)，也有利于我們進一步理解GPU技術現(xiàn)如今正在發(fā)生怎樣的轉(zhuǎn)變。

市場對GPU的新需求

Imagination對于GPU芯片當前的市場需求與趨勢方面的總結(jié)大致上有下面這4點：

其一是擴展性、彈性（scalability）要求，從手機這樣的小設備，到云數(shù)據(jù)中心規(guī)模級別的算力都覆蓋——如果在芯片架構(gòu)上能夠提供對應的彈性，自然能夠達成更高的芯片設計效率。這似乎也是當代幾個比較主流的GPU供應商，在做架構(gòu)設計時普遍考慮的問題。

這其中有一些對應的新技術和新需求涌現(xiàn)，例如chiplet、先進封裝。汽車應用方向上，則有FuSa功能安全方面的需求——“不管冗余設計要求算兩遍，還是某些功能失效后怎么辦的問題，都需要考慮?！?/p>

第二，就是文首提到的能耗比、熱效能、算力密度。不同方向的應用當前對“效率”都越來越看重，不同規(guī)模的設備都開始受到功耗、發(fā)熱等方面的限制。這方面“我們不能單單以制造工藝的進步，來主導我們往前走?！?/p>

第三，則在于帶寬方面的限制。主流馮諾依曼體系架構(gòu)中，制約芯片性能的關鍵在數(shù)據(jù)存取和通信的過程中——這是能耗與熱量開銷的大頭；另外在chiplet之類的新技術大規(guī)模應用之際，chiplet之間的數(shù)據(jù)同步、通信延遲等問題也都需要考慮進來。不過實際上，我們認為帶寬問題也可以歸屬到第二點。Imagination將這一點單獨拿出來談，當與其GPU的TBDR架構(gòu)有很大關系。

第四個新需求在安全（security）方面。尤其當GPU應用于云以后，GPU也成為安全鏈上的一環(huán)，硬件層面的安全支持也顯得很重要。實際上像英偉達這樣的GPU企業(yè)，這兩年的GTC上也越來越多地去談信息安全話題，亦能明確這方面的未來趨勢。

IMGGPU的幾個架構(gòu)特色

針對這幾個問題，Imagination在研討會上給出了一些“方案”，或者說其PowerVR GPU IP產(chǎn)品現(xiàn)有的一些架構(gòu)特性，是如何去滿足市場需求的。對PowerVR比較熟的讀者應該也都不會陌生。

首先是針對架構(gòu)彈性擴展的問題，這一直以來都是Imagination的GPU特色：即模塊化、層級化的方式，通過一種架構(gòu)的彈性化擴展，覆蓋從手機到服務器市場的各類需求。

比如這一代CXT架構(gòu)，如上圖中左下的CXT-16-512 RT1（16 Pixels/Clock，512 FP32 FLOPs/Clock，1個RT核心)，規(guī)?？梢苑哆_成填充率、算力等性能成倍提升，直至4倍時形成單core——在有更高性能要求時還有多核的MC2-MC8不同規(guī)模版本；從多核再擴展到多實例（multi-instance）——多GPU卡應用于服務器和云市場。

Imagination表示，在具體設計上加上標準NOC片上網(wǎng)絡技術，這樣的彈性方案也很符合chiplet結(jié)構(gòu)的需求——復用相同的模塊，將多個模塊以chiplet的方案封裝到一起，形成更大的GPU。其關鍵點也在于避免采用過于中心化的邏輯，以及復雜信號設計，而采用相對松散、去中心化的結(jié)構(gòu)，靈活性更好。

這種設計也在很多層面帶來了好處，比如說硬件虛擬化、汽車功能安全的冗余設計，以及各chiplet之間的異步操作等等。

其次Imagination談到了tile-based，也就是基于分塊的渲染架構(gòu)在滿足當代GPU需求方面的優(yōu)勢。傳統(tǒng)意義上，基于tile的渲染方式一直是移動領域的重要藝能，主要是考慮到移動設備的帶寬、功耗等方面受到的限制都比較大。Imagination、蘋果、Arm、高通的GPU方案都是基于tile的渲染方式。

著眼于前文提到不同應用市場對于帶寬、功耗方面的新需求，這種基于tile的渲染方式在移動之外的市場也能延續(xù)效率上的顯著優(yōu)勢。因為基于tile的處理方式，是在對對象做sort以后，以tile為單位做處理——如此一來不少處理過程就能在片內(nèi)cache上做，也就提升了能效，降低了功耗；寫出tile更加的"burst effective"，對于cache與內(nèi)存相關操作更友好。

另外基于tile渲染還有個優(yōu)勢，按照Imagination的說法，它天然地更適合彈性擴展。因為每個tile都是相對獨立的，“也就有利于在多核或多設備之間分發(fā)這些tile，也有利于達成性能的線性scaling”。相對的“傳統(tǒng)IMR（立即渲染模式）以三角形為單位的渲染方式”就無法達成這樣的效果。

在tile-based基礎上，接下來當然就要提到Imagination長久以來引以為傲的TBDR了，這其實一直也是Imagination對自家GPU IP的宣傳點，如上圖所示。在流程上同在采用TBDR的廠商主要還有蘋果。藉由所謂的perfect tiling、culling，提升帶寬利用率和整體效率也都算是TBDR的傳統(tǒng)特色了。

當然其中有很多細節(jié)，比如說三角形binning精準地落到對應的tile之上，避免數(shù)據(jù)的overfetch；再比如更高效的場景中被遮擋三角形的拋棄、對于后面光柵化（rasterization）階段貢獻很低的小型三角形的拋棄等等，對于縮減帶寬、功耗都是有價值的。

還有數(shù)據(jù)的硬件壓縮也是縮減帶寬需求的重要組成部分。

TBDR中的“D”是指“延后”渲染，在流程上和一般的TBR還是有不同。在tiling之后，primitive list和頂點數(shù)據(jù)是有一次寫出的。“寫出是要把tile list表達清楚，哪個三角形在對應的tile區(qū)域內(nèi)，在這個環(huán)節(jié)表達清楚。在此之后，其他任務就相對獨立，都在tile上面，通過on-chip memory來做HSR消隱等操作。”

尤其HSR（隱面消除）所在位置，一直都是Imagination這種TBDR結(jié)構(gòu)提升效率的優(yōu)勢。本質(zhì)也在于盡早拋棄不需要的部分，在后期階段也就節(jié)約了不必要的資源開支。Imagination表示在考慮對框架做改進——在幾何階段，Imagination內(nèi)部正考慮引入新的特性，以其令其更有利于多核GPU的任務分發(fā)，提升并行率；另外對于需要寫出到系統(tǒng)內(nèi)存的數(shù)據(jù)，“我們也在考慮，可以通過壓縮來處理這幾塊buffer的data?！盜magination在主題演講中談到。

數(shù)據(jù)壓縮也是節(jié)約帶寬的重要技術。針對不同階段、各種數(shù)據(jù)的壓縮，Imagination形容“渲染里面幾乎所有的data，都做壓縮”。包括對開發(fā)者可見的紋理壓縮以及無需開發(fā)者關心的幾何壓縮。

還有Imagination花了不少工夫的IMGIC，針對系統(tǒng)內(nèi)存中render target的讀寫frame buffer image壓縮——應當是Imagination在發(fā)布B系列GPU的時候引入的，用于替代此前逐漸不再有優(yōu)勢的PVRIC。無損和有損壓縮均支持：對于有損壓縮，據(jù)說能夠在對質(zhì)量僅有輕微影響的情況下，獲得非常大的壓縮比。

Imagination表示，相比于市面上的競爭對手，其GPU可達成20-40%的帶寬節(jié)約——上圖的測試場景和游戲中都有所體現(xiàn)。帶寬需求更低，也就意味著能夠提供更好的持續(xù)性能或者更低的功耗。

順應時代發(fā)展趨勢，GPU從硬件層面開始注重安全以及虛擬化特性。上面這張圖的例子是當GPU應用于汽車之時——當代座艙內(nèi)就有好幾塊屏幕，用途各異——它們在系統(tǒng)內(nèi)可能會由同一個GPU來驅(qū)動。那么虛擬化在此就能發(fā)揮作用，包括從操作系統(tǒng)層級來做性能負載的分配。

還有負載的安全和隔離——比如儀表盤、導航、娛樂系統(tǒng)都跑在一個GPU上，則在某個系統(tǒng)崩潰時不會影響到儀表盤，即功能安全相關負載——GPU在此就是將使用場景，在硬件級上實現(xiàn)切分。另外在其他一些使用場景上，比如手機之上，對應的特性就能對神經(jīng)網(wǎng)絡加速，和UI特性做到資源均衡分配。當然還有在云服務器上，硬件虛擬化多租戶也是十分必要的特性。

最后一個亮點特性，在于其firmware processor固件處理器上。前年我們細談Imagination的A系列GPU微架構(gòu)時，就特別談到過當時架構(gòu)改進中新增的這個“固件功能”。這次的研討會上，固件功能也被當作一個重點做了介紹。

基于其可編程性，這個processor可以幫助降低主CPU的負載開銷?！颁秩镜臅r候，有很多中斷信號或申請信號，就不需要回到主CPU去，這個小的CPU也能響應?！惫碳δ芤材茏龅教摂M化隔離，“我們甚至能夠做到每一個USC給某一個應用來用?！?/p>

另外，不少復雜調(diào)度、安全、保護特性需要這樣的固件功能。應對未來的新需求，自然也能通過固件來做調(diào)整。而且其可編程可擴展性，就令其很適用于調(diào)試，當GPU崩潰時能夠給出完整的數(shù)據(jù)log。所以這對于功能安全的錯誤分析也就很有幫助。而在上面跑個debugserver，連接GDB來做debug，就是個不錯的debug工具。

與此同時“firmware其實知道GPU里面的不少信息，包括寄存信息、memory信息、當前繪制的workload信息——基于此可以和外部設備做交互?！蓖ㄟ^GPIO口進行電源管理。“firmware處理器知道GPU有多忙，那么我們就能快速高效地，在硬件上原生實施DVFS機制。”“所以總的來說，在帶寬效率、能耗比以及安全方面，它都能帶來幫助。”

以光追架構(gòu)為例

如果要用一個詞來總結(jié)Imagination當前做GPU IP的理念的話，應該就是“efficiency”（效率）了，所以Imagination才會在研討會上反復強調(diào)能效、算力密度、帶寬效率這些詞。

我們倒是覺得，如果要舉一個具體的例子的話，則Imagination的光追技術及架構(gòu)應該是能夠代表對“效率”一詞的貫徹的。不過受限于篇幅，最后只能再簡單談一談。

Imagination在技術白皮書里談到過，他們將光追實現(xiàn)分成了6個等級，此前我們詳細撰文探討過。除了L0是早年各自為政的技術探索、L1是從軟件層面來做光追、L2部分加入硬件專門的支持（ray-box與ray-triangle相交處理問題），L3往后實則是我們現(xiàn)在普遍理解中的光線追蹤技術。

L2、L3把光線遍歷、追蹤和監(jiān)控算法通過專門的硬件來實現(xiàn)，在性能和效率上有了成倍提升。關鍵是這里的L4：Imagination認為L4是要在L3硬件實現(xiàn)的基礎上，給BVH（bounding volume hierarchy，層次包圍體）處理再加個“Coherency Sorting”。

因為在Imagination看來，要在對功耗非常敏感的移動平臺上實踐光線追蹤，還需要更進一步提升效率。考慮光線穿過BVH有不同的路徑，需要頻繁進行內(nèi)存訪問，不同路徑又與不同三角形相交加重了shader的工作量。所以這里coherency sorting的意義在于對具有相干性的光線進行sorting——比如某些材質(zhì)反射同方向光線做分組，來達成更高的數(shù)據(jù)復用、提升并行ALU管線利用率。

在Imagination看來，coherency sorting之于光線追蹤，就相當于tile-based rendering對于GPU效率的意義。這一點實則是能夠看出Imagination在GPU IP上對“efficiency”一詞的貫徹的。

上面這張圖是Imagination當前光追的硬件實現(xiàn)：一個RAC光追單元簇，由以上這些主要的單元模塊構(gòu)成。光追L4實現(xiàn)就在其中的PCG（packet coherency gathering）單元上：它會對所有活躍光線做分析，然后對“相干”光線做分組。

這也是Imagination眼中，未來手機這類功耗受限的設備上實現(xiàn)光追的必行之策。而且這個特性是不需要開發(fā)者去關心的。

Imagination表示，相比于市面上的其他解決方案，這種光追架構(gòu)能夠在光追負載上最多達成2.5倍的效率領先。

另外，前文提到的各種技術特性實則都能在Imagination的光追架構(gòu)上有所體現(xiàn)。比如彈性擴展方案：此處GPU的基本單元是其中的SPU。RAC作為光追單元簇也是包含其中，并可做擴展的——兩個ALU引擎共享一個RAC。而SPU本身也包含了其他完整的固定功能單元。

Imagination在推行高能效GPU一事上的思路還是相當清晰的，雖說研討會上談到的不少技術仍有偏向自家架構(gòu)和技術的意思，不過大方向的確沒錯。即不只是手機這樣的移動設備，包括PC、汽車、數(shù)據(jù)中心、云等不同規(guī)模GPU算力需求的設備和應用場景都會越來越看重效率——不管是帶寬效率、算力密度還是整體能效比。

這就要求在架構(gòu)層面有可擴展的彈性設計、各種能夠節(jié)約帶寬資源和提升效率的技術，再加上符合現(xiàn)代GPU發(fā)展需求的新特性：如安全、虛擬化。不管達成這些目標的具體技術是不是基于tile的、延后渲染的，或者各類數(shù)據(jù)壓縮方案，未來市場對GPU的技術需求都將是如此。

審核編輯 ：李倩