電子發(fā)燒友網(wǎng)報道(文/周凱揚)2022年下半年,服務器市場受到了經(jīng)濟下行的波及,也開始放慢了增長速率。不少人認為進入2023年后,數(shù)據(jù)中心這幾年享受的紅利期也即將迎來終結(jié)。但隨著ChatGPT及同類型應用的風靡,服務器市場再度激活了新一輪的軍備競賽。
直接受益者自然是與算力掛鉤最為緊密的GPU廠商,無論是英偉達還是AMD,從開年以來股價就經(jīng)歷了一輪猛漲。CPU、AI加速器、FPGA廠商也順勢得利。不過要說在云服務廠商紛紛瘋狂下單下,還有哪些硬件廠商從中分了一杯羹,那肯定少不了網(wǎng)絡(luò)芯片廠商。
高性能網(wǎng)絡(luò)也是生成式AI的硬需求
在Meta、谷歌、亞馬遜這些Hyperscaler廠商的眼里,他們已經(jīng)明白ChatGPT這類生成式AI并非曇花一現(xiàn),而是可以投入到現(xiàn)有產(chǎn)品中去并產(chǎn)生附加價值的爆款應用。不過在他們現(xiàn)如今的AI集群中,不少都是和傳統(tǒng)的x86 CPU集群獨立的,所以他們要想建立新的互聯(lián)交換網(wǎng)絡(luò)滿足需求,就必須要購置新的基礎(chǔ)設(shè)施硬件。
所以搭建高性能數(shù)據(jù)中心網(wǎng)絡(luò)就成了他們發(fā)力的重點之一,需求指標包括無損耗、低時延和高擴展性等。像亞馬遜、谷歌這樣已經(jīng)開始自研高速網(wǎng)絡(luò)芯片的大廠還好,而沒有這方面技術(shù)積累的云服務廠商和企業(yè)就只能去購買第三方方案,諸如大帶寬交換機/路由器、DPU等。
網(wǎng)絡(luò)芯片廠商從中受益
正因如此,像博通、瑞昱之類的網(wǎng)絡(luò)芯片廠商也都從這股AI熱中受益。近日,博通發(fā)布了2023財年第一季度的財報,該季度內(nèi)博通的總營收達到了89.15億美元,同比增長16%,凈利潤達37.74億美元,同比增長53%,其中半導體解決方案業(yè)務貢獻了71.07億美元的營收,同比增長了21%。
Tomahawk5以太網(wǎng)交換機芯片/ 博通
雖然其中一部分營收來自無線消費終端,但這樣的成績還是可以看出在服務器終端市場,網(wǎng)絡(luò)芯片的需求劇增,致使訂單飛漲。博通表示,在2022年內(nèi),單是用于AI的以太網(wǎng)交換機產(chǎn)品營收就超過2億美元,而他們預計在2023年這個數(shù)值將達到8億美元,可見博通的Tomahawk以太網(wǎng)交換機芯片賣得有多好。
與此同時,博通用于計算卸載的產(chǎn)品,也因為生成式AI的爆火而大賣,例如Stingray系列SmartNIC。博通去年在該類業(yè)務上的營收已經(jīng)超過20億美元,且今年的預計營收將超過30億美元。另外就是無損數(shù)據(jù)中心以太網(wǎng)架構(gòu),博通也像華為等廠商一樣,開始在新一代無損低時延的以太網(wǎng)架構(gòu)上加大投入,且對數(shù)據(jù)與計算密集型的AI負載進行了優(yōu)化設(shè)計。
小結(jié)
相對其他服務器硬件產(chǎn)品來說,網(wǎng)絡(luò)芯片的市場韌性確實要更高一些,而且總能順應局勢迎來一波增長。加之如今的以太網(wǎng)交換機芯片、SmartNIC和DPU都處于飛速創(chuàng)新的階段,相信即便在AI計算量逐年倍增的情況下,數(shù)據(jù)中心網(wǎng)絡(luò)也不會出現(xiàn)類似其他硬件一樣的性能瓶頸。
直接受益者自然是與算力掛鉤最為緊密的GPU廠商,無論是英偉達還是AMD,從開年以來股價就經(jīng)歷了一輪猛漲。CPU、AI加速器、FPGA廠商也順勢得利。不過要說在云服務廠商紛紛瘋狂下單下,還有哪些硬件廠商從中分了一杯羹,那肯定少不了網(wǎng)絡(luò)芯片廠商。
高性能網(wǎng)絡(luò)也是生成式AI的硬需求
在Meta、谷歌、亞馬遜這些Hyperscaler廠商的眼里,他們已經(jīng)明白ChatGPT這類生成式AI并非曇花一現(xiàn),而是可以投入到現(xiàn)有產(chǎn)品中去并產(chǎn)生附加價值的爆款應用。不過在他們現(xiàn)如今的AI集群中,不少都是和傳統(tǒng)的x86 CPU集群獨立的,所以他們要想建立新的互聯(lián)交換網(wǎng)絡(luò)滿足需求,就必須要購置新的基礎(chǔ)設(shè)施硬件。
所以搭建高性能數(shù)據(jù)中心網(wǎng)絡(luò)就成了他們發(fā)力的重點之一,需求指標包括無損耗、低時延和高擴展性等。像亞馬遜、谷歌這樣已經(jīng)開始自研高速網(wǎng)絡(luò)芯片的大廠還好,而沒有這方面技術(shù)積累的云服務廠商和企業(yè)就只能去購買第三方方案,諸如大帶寬交換機/路由器、DPU等。
網(wǎng)絡(luò)芯片廠商從中受益
正因如此,像博通、瑞昱之類的網(wǎng)絡(luò)芯片廠商也都從這股AI熱中受益。近日,博通發(fā)布了2023財年第一季度的財報,該季度內(nèi)博通的總營收達到了89.15億美元,同比增長16%,凈利潤達37.74億美元,同比增長53%,其中半導體解決方案業(yè)務貢獻了71.07億美元的營收,同比增長了21%。

雖然其中一部分營收來自無線消費終端,但這樣的成績還是可以看出在服務器終端市場,網(wǎng)絡(luò)芯片的需求劇增,致使訂單飛漲。博通表示,在2022年內(nèi),單是用于AI的以太網(wǎng)交換機產(chǎn)品營收就超過2億美元,而他們預計在2023年這個數(shù)值將達到8億美元,可見博通的Tomahawk以太網(wǎng)交換機芯片賣得有多好。
與此同時,博通用于計算卸載的產(chǎn)品,也因為生成式AI的爆火而大賣,例如Stingray系列SmartNIC。博通去年在該類業(yè)務上的營收已經(jīng)超過20億美元,且今年的預計營收將超過30億美元。另外就是無損數(shù)據(jù)中心以太網(wǎng)架構(gòu),博通也像華為等廠商一樣,開始在新一代無損低時延的以太網(wǎng)架構(gòu)上加大投入,且對數(shù)據(jù)與計算密集型的AI負載進行了優(yōu)化設(shè)計。
小結(jié)
相對其他服務器硬件產(chǎn)品來說,網(wǎng)絡(luò)芯片的市場韌性確實要更高一些,而且總能順應局勢迎來一波增長。加之如今的以太網(wǎng)交換機芯片、SmartNIC和DPU都處于飛速創(chuàng)新的階段,相信即便在AI計算量逐年倍增的情況下,數(shù)據(jù)中心網(wǎng)絡(luò)也不會出現(xiàn)類似其他硬件一樣的性能瓶頸。
聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。
舉報投訴
-
gpu
+關(guān)注
關(guān)注
28文章
4945瀏覽量
131230 -
博通
+關(guān)注
關(guān)注
35文章
4336瀏覽量
107671 -
網(wǎng)絡(luò)芯片
+關(guān)注
關(guān)注
0文章
30瀏覽量
12283
發(fā)布評論請先 登錄
相關(guān)推薦
熱點推薦
【「算力芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析」閱讀體驗】+NVlink技術(shù)從應用到原理
前言
【「算力芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析」書中的芯片知識是比較接近當前的頂尖芯片水平的,同時包含了芯片架構(gòu)的基礎(chǔ)知
發(fā)表于 06-18 19:31

OpenVINO?檢測到GPU,但網(wǎng)絡(luò)無法加載到GPU插件,為什么?
OpenVINO?安裝在舊的 Windows 10 版本 Windows? 10 (RS1) 上。
已安裝 GPU 驅(qū)動程序版本 25.20.100.6373,檢測到 GPU,但網(wǎng)絡(luò)無法加載
發(fā)表于 03-05 06:01
GPU是如何訓練AI大模型的
在AI模型的訓練過程中,大量的計算工作集中在矩陣乘法、向量加法和激活函數(shù)等運算上。這些運算正是GPU所擅長的。接下來,AI部落小編帶您了解GPU是如何訓練AI大模型的。
大聯(lián)大推出基于MediaTek Genio 130與ChatGPT的AI語音助理方案
大聯(lián)大控股,作為亞太地區(qū)市場領(lǐng)先的半導體元器件分銷商,近日宣布了一項重要創(chuàng)新。其旗下子公司品佳,成功推出了基于聯(lián)發(fā)科技(MediaTek)Genio 130芯片與ChatGPT功能的AI語音助理方案
英特爾12月或發(fā)布Battlemage GPU芯片
近日,有關(guān)英特爾即將在12月發(fā)布全新Battlemage GPU芯片的傳聞再次被證實。據(jù)硬件挖掘者和泄密者Tomasz Gawrońsk分享的預告圖顯示,英特爾極有可能在AMD RDNA 4和英偉達Blackwell之前,率先推出其Battlemage
如何構(gòu)建及優(yōu)化GPU云網(wǎng)絡(luò)
并從計算節(jié)點成本優(yōu)化、集群網(wǎng)絡(luò)與拓撲的選擇等方面論述如何構(gòu)建及優(yōu)化GPU云網(wǎng)絡(luò)。

GPU服務器AI網(wǎng)絡(luò)架構(gòu)設(shè)計
眾所周知,在大型模型訓練中,通常采用每臺服務器配備多個GPU的集群架構(gòu)。在上一篇文章《高性能GPU服務器AI網(wǎng)絡(luò)架構(gòu)(上篇)》中,我們對GPU網(wǎng)絡(luò)

OpenAI推出ChatGPT搜索功能
查找網(wǎng)絡(luò)信息時,往往需要通過傳統(tǒng)的搜索引擎進行檢索,然后從中篩選出有價值的內(nèi)容。而現(xiàn)在,有了ChatGPT搜索,用戶可以更加便捷地獲取所需信息。 OpenAI表示,ChatGPT搜索不僅能夠幫助用戶像在
【「算力芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析」閱讀體驗】--了解算力芯片GPU
本篇閱讀學習第七、八章,了解GPU架構(gòu)演進及CPGPU存儲體系與線程管理
█從圖形到計算的GPU架構(gòu)演進
GPU圖像計算發(fā)展
●從三角形開始的幾何階段
在現(xiàn)代圖形渲染中,三角形是最常用的基本圖形元素
發(fā)表于 11-03 12:55
怎樣搭建基于 ChatGPT 的聊天系統(tǒng)
搭建一個基于ChatGPT的聊天系統(tǒng)是一個涉及多個步驟的過程,包括理解ChatGPT的API、設(shè)計用戶界面、處理數(shù)據(jù)和集成ChatGPT模型。以下是一個簡化的指南,用于創(chuàng)建一個基本的聊天系統(tǒng)。 1.
ChatGPT 適合哪些行業(yè)
ChatGPT 是一種基于人工智能的自然語言處理技術(shù),它能夠理解和生成人類語言。這種技術(shù)在多個行業(yè)中都有廣泛的應用潛力。以下是一些ChatGPT特別適合的行業(yè),以及它在這些行業(yè)中可能的應用方式
【「算力芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析」閱讀體驗】--全書概覽
、GPU、NPU,給我們剖析了算力芯片的微架構(gòu)。書中有對芯片方案商處理器的講解,理論聯(lián)系實際,使讀者能更好理解算力芯片。
全書共11章,由淺入深,較系統(tǒng)全面進行講解。下面目錄對全書
發(fā)表于 10-15 22:08
名單公布!【書籍評測活動NO.43】 算力芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析
紙質(zhì)媒體的高質(zhì)量和專業(yè)網(wǎng)絡(luò)媒體的信息更新速度。
算力芯片在最近15年有著巨大性能突破,這些年Intel的CPU芯片從雙核128位SIMD到眾核512位SIMD;NVIDIA的GPU產(chǎn)品
發(fā)表于 09-02 10:09
評論