無(wú)論是中小企業(yè)主還是致力于學(xué)習(xí)Ai的學(xué)生用戶，對(duì)高性能的Ai計(jì)算機(jī)的需求十分旺盛。顯然專業(yè)的HPC（高性能計(jì)算）價(jià)格不菲，例如英偉達(dá)Tesla H800高性能計(jì)算卡的價(jià)格就要20萬(wàn)，用戶可選配1塊或者最多256塊以滿足計(jì)算的需求，對(duì)于大部分用戶而言經(jīng)濟(jì)壓力極大，即便選擇性能低一些的英偉達(dá)Tesla A100高性能計(jì)算卡，單卡的價(jià)格也要8萬(wàn)元。所以，越來(lái)越多的用戶將目光轉(zhuǎn)向消費(fèi)級(jí)配件，雖然計(jì)算的等待時(shí)間會(huì)更長(zhǎng)，但是需要的資金量也會(huì)更低。那么，如何搭建和部署一臺(tái)本地大模型Ai計(jì)算機(jī)呢？五大核心部件，用戶可按需選擇。

消費(fèi)級(jí)顯卡可滿足大部分算力需求

不可否認(rèn)消費(fèi)級(jí)顯卡的價(jià)格相對(duì)專業(yè)級(jí)計(jì)算卡更低廉，即便算力大打折扣也可以滿足絕大多數(shù)用戶的需求。以AI繪圖軟件Stable Diffusion測(cè)試為參考，顯然英偉達(dá)的消費(fèi)級(jí)顯卡一支獨(dú)大，如果RTX4090性能為標(biāo)準(zhǔn)100%，RTX4090D則為95%，RTX4080Super則只有70%，RTX4080為68%，RTX3090Ti和RTX4070Ti Super均為58%。消費(fèi)級(jí)顯卡的性能基本與價(jià)格成正比，用戶可根據(jù)自己的實(shí)際需求選擇。與此同時(shí)，選擇顯卡不能忽視的參數(shù)還有顯存，大量的Ai產(chǎn)品運(yùn)行過(guò)程中，顯存是個(gè)門檻，低于16G的顯存在Ai界寸步難行。

首選多核多線程處理器

處理器在Ai計(jì)算機(jī)的主要作用是負(fù)責(zé)處理較小的數(shù)據(jù)集和簡(jiǎn)單的計(jì)算任務(wù)，如數(shù)據(jù)預(yù)處理、模型評(píng)估等，用戶可以優(yōu)先選擇多核心、多線程、高頻率以及低功耗的處理器，這些處理器的能效比更高，能夠進(jìn)一步提升整機(jī)性能。

當(dāng)前英特爾14代酷睿i9-14900系列處理器是比較理想的選擇，8+16大小核，32線程，大核頻率至高可達(dá)6.2GHz，小核頻率也可以達(dá)到最高4.5GHz，此外還有32+36MB的二三級(jí)緩存。其次是最新的英特爾二代酷睿Ultra 9 285K，雖然大小核數(shù)量一樣，但是線程減少到24線程，大核頻率最高5.7GHz，小核頻率4.6GHz，二三級(jí)緩存40+36MB。

AMD平臺(tái)是深度學(xué)習(xí)的更優(yōu)選擇，當(dāng)然價(jià)格也更高。例如AMD的線程撕裂者7980X，恐怖的64核心128線程，頻率3.2-5.1GHz，二三級(jí)緩存64+256MB，熱設(shè)計(jì)功耗只有350W。

高性能內(nèi)存打破內(nèi)存墻瓶頸

在Ai計(jì)算中，數(shù)據(jù)需要從內(nèi)存中加載到處理器中進(jìn)行計(jì)算。由于內(nèi)存和處理器之間的數(shù)據(jù)傳輸速度差異，當(dāng)處理器等待數(shù)據(jù)從內(nèi)存加載時(shí)，計(jì)算任務(wù)無(wú)法充分利用處理器的計(jì)算能力，導(dǎo)致性能瓶頸，這種現(xiàn)象就是所謂的內(nèi)存墻。內(nèi)存墻不僅限制了Ai算力的提升，還可能導(dǎo)致計(jì)算資源的浪費(fèi)和計(jì)算效率的降低。

打破內(nèi)存墻瓶頸從兩方面入手，容量和速度。16GB是Ai計(jì)算機(jī)可接受的最低容量，用戶如果有條件選擇32GB以及更大容量的內(nèi)存對(duì)性能提升十分理想。至于速度，目前Kingston FURY叛逆者（Renegade）DDR5 內(nèi)存的速度已經(jīng)可以達(dá)到8400MT/s，這是一款CUDIMM內(nèi)存，有測(cè)試數(shù)據(jù)表明，這款內(nèi)存的讀寫速度能達(dá)到126.8GB/s和100.2GB/s，相比7200MT/s的內(nèi)存，性能最高可提高18%。所以，如果用戶只關(guān)注容量，而忽視速度，很可能會(huì)造成內(nèi)存墻瓶頸。

固態(tài)硬盤Ai計(jì)算機(jī)的加速器

深度學(xué)習(xí)模型不僅依賴強(qiáng)大的計(jì)算能力，還需要高效的存儲(chǔ)系統(tǒng)來(lái)確?？焖俚臄?shù)據(jù)讀取，因?yàn)閿?shù)據(jù)通常以大量小文件的形式存儲(chǔ)，而這些數(shù)據(jù)需要被反復(fù)讀取、處理和更新，存儲(chǔ)系統(tǒng)的速度直接決定了計(jì)算資源的利用效率，所以Ai計(jì)算機(jī)中的固態(tài)硬盤的重要性絲毫不亞于計(jì)算力。

Kingston FURY 叛逆者（Renegade）PCIe 4.0 NVMe M.2固態(tài)硬盤是Ai計(jì)算機(jī)中的理想選擇，以4TB版本為例，其連續(xù)讀寫速度最高可達(dá)7300MB/s和7000MB/s，隨機(jī)4K讀寫速度最高也可達(dá)到100萬(wàn)/100萬(wàn)IOPS，總寫入字節(jié)最高可達(dá)4PBW，平均無(wú)故障工作時(shí)間高達(dá)200萬(wàn)小時(shí)。

主板需預(yù)留可升級(jí)空間

主板作為整個(gè)系統(tǒng)的平臺(tái)，對(duì)性能的影響幾乎可以忽略不計(jì)，但是要選擇穩(wěn)定性更高的主板，以及預(yù)留一定的可升級(jí)空間，例如內(nèi)存插槽至少選擇4條插槽，這樣在現(xiàn)階段使用2條插槽，未來(lái)還可以再擴(kuò)容2條內(nèi)存，M.2插槽也是如此。另外需要注意的是供電模塊，強(qiáng)大的供電系統(tǒng)可以確保處理器的用電需求，否則供電不足將導(dǎo)致處理器降頻影響性能。最后還要考慮顯卡的PCIe插槽數(shù)量，因?yàn)楝F(xiàn)階段可能一塊消費(fèi)級(jí)顯卡可以充當(dāng)計(jì)算卡，但是未來(lái)如果想再升級(jí)諸如英偉達(dá)A100計(jì)算卡甚至NVLink多顯卡作業(yè)，沒(méi)有充足的顯卡插槽就只能通過(guò)換平臺(tái)升級(jí)。

以上就是大模型Ai計(jì)算機(jī)的核心五配件的選擇指導(dǎo)，無(wú)論是處理器還是顯卡（計(jì)算卡）基本都和價(jià)格成正比關(guān)系，反而是內(nèi)存和固態(tài)硬盤，價(jià)格貴一點(diǎn)甚至價(jià)格持平的時(shí)候，正確的選擇可以提升更多性能，對(duì)于生產(chǎn)力用戶這一點(diǎn)尤為重要。

Kingston FURY 叛逆者（Renegade）DDR5系列內(nèi)存京東商城購(gòu)買鏈接：

https://item.jd.com/100158445342.html

Kingston FURY 叛逆者（Renegade）固態(tài)硬盤京東商城購(gòu)買鏈接：

https://item.jd.com/100028963514.html

關(guān)于金士頓科技公司

從大數(shù)據(jù)到物聯(lián)網(wǎng)設(shè)備，到筆記本電腦和個(gè)人PC，再到可穿戴技術(shù)，金士頓致力于提供頂級(jí)的產(chǎn)品解決方案、服務(wù)和支持。作為領(lǐng)先的PC制造商和全球云服務(wù)提供商信賴的合作伙伴，金士頓十分珍視幫助我們發(fā)展和創(chuàng)新的長(zhǎng)期合作伙伴關(guān)系。金士頓將質(zhì)量和客戶服務(wù)放在首位，確保每項(xiàng)服務(wù)和解決方案都能達(dá)到最高標(biāo)準(zhǔn)。在每一個(gè)環(huán)節(jié)中，金士頓都會(huì)傾聽(tīng)、學(xué)習(xí)并與客戶及合作伙伴進(jìn)行互動(dòng)，以提供具有深遠(yuǎn)影響力和長(zhǎng)效價(jià)值的解決方案。

如需深入了解金士頓科技公司以及我們的“Built on Commitment”愿景，請(qǐng)?jiān)L問(wèn)：Kingston.com.cn

歡迎關(guān)注金士頓官方微博（http://weibo.com/kingston1987）與微信公眾平臺(tái)（微信號(hào)：Kingston1987），參加最新活動(dòng)，交流產(chǎn)品心得。

審核編輯 黃宇