一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

服務(wù)器市場、產(chǎn)業(yè)鏈及競爭格局(2023)

架構(gòu)師技術(shù)聯(lián)盟 ? 來源:架構(gòu)師技術(shù)聯(lián)盟 ? 2023-05-09 10:59 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

人工智能之火點燃算力需求,AI服務(wù)器市場拆解”,詳細(xì)介紹了服務(wù)器構(gòu)成及市場情況、AIGC帶來服務(wù)器變革、訓(xùn)練&推理帶來服務(wù)器增量需求、AI服務(wù)器市場迎來高速發(fā)展機(jī)遇、AI服務(wù)器產(chǎn)業(yè)鏈解析、AI服務(wù)器競爭格局。

詳細(xì)技術(shù)內(nèi)容參考“高性能計算知識匯總”及“OpenMP編譯原理及實現(xiàn)”,高性能計算應(yīng)用特征剖析、深度報告:GPU研究框架、《高性能計算和超算專題》。及人工智能之火點燃算力需求,AI服務(wù)器市場拆解。

服務(wù)器主要硬件包括處理器、內(nèi)存、芯片組、I/O (RAID卡、網(wǎng)卡、HBA卡)、硬盤、機(jī)箱(電源、風(fēng)扇)。以一臺普通的服務(wù)器生產(chǎn)成本為例,CPU及芯片組大致占比50%左右,內(nèi)存大致占比15%左右,外部存儲大致占比10%左右,其他硬件占比25%左右。

服務(wù)器的邏輯架構(gòu)和普通計算機(jī)類似。但是由于需要提供高性能計算,因此在處理能力、穩(wěn)定性、可靠性、安全性、可擴(kuò)展性、可管理性等方面要求較高。

邏輯架構(gòu)中,最重要的部分是CPU和內(nèi)存。CPU對數(shù)據(jù)進(jìn)行邏輯運算,內(nèi)存進(jìn)行數(shù)據(jù)存儲管理。

服務(wù)器的固件主要包括BIOS或UEFI、BMC、CMOS,OS包括32位和64位。

服務(wù)器市場規(guī)模持續(xù)增長。根據(jù)Counterpoint的全球服務(wù)器銷售跟蹤報告,2022年,全球服務(wù)器出貨量將同比增長6%,達(dá)到1380萬臺。收入將同比增長17%,達(dá)到1117億美元。根據(jù)IDC、中商產(chǎn)業(yè)研究院,我國服務(wù)器市場規(guī)模由2019年的182億美元增長至2022年的273.4億美元,復(fù)合年均增長率達(dá)14.5%,預(yù)計2023年我國服務(wù)器市場規(guī)模將增至308億美元。

81b1bb74-edfb-11ed-90ce-dac502259ad0.png

競爭格局:根據(jù)IDC發(fā)布的《2022年第四季度中國服務(wù)器市場跟蹤報告Prelim》,浪潮份額國內(nèi)領(lǐng)先,新華三次之,超聚變排行第三,中興通訊進(jìn)入前五。

目前,AIGC產(chǎn)業(yè)生態(tài)體系的雛形已現(xiàn),呈現(xiàn)為上中下三層架構(gòu):①第一層為上游基礎(chǔ)層,也就是由預(yù)訓(xùn)練模型為基礎(chǔ)搭建的AIGC技術(shù)基礎(chǔ)設(shè)施層。②第二層為中間層,即垂直化、場景化、個性化的模型和應(yīng)用工具。③第三層為應(yīng)用層,即面向C端用戶的文字、圖片、音視頻等內(nèi)容生成服務(wù)。

81ca3c94-edfb-11ed-90ce-dac502259ad0.png

回顧GPT的發(fā)展,GPT家族與BERT模型都是知名的NLP模型,都基于Transformer技術(shù)。GPT,是一種生成式的預(yù)訓(xùn)練模型,由OpenAI團(tuán)隊最早發(fā)布于2018年,GPT-1只有12個Transformer層,而到了GPT-3,則增加到96層。其中,GPT-1使用無監(jiān)督預(yù)訓(xùn)練與有監(jiān)督微調(diào)相結(jié)合的方式,GPT-2與GPT-3則都是純無監(jiān)督預(yù)訓(xùn)練的方式,GPT-3相比GPT-2的進(jìn)化主要是數(shù)據(jù)量、參數(shù)量的數(shù)量級提升。

未來異構(gòu)計算或成為主流

異構(gòu)計算(Heterogeneous Computing)是指使用不同類型指令集和體系架構(gòu)的計算單元組成系統(tǒng)的計算方式,目前主要包括GPU云服務(wù)器、FPGA云服務(wù)器和彈性加速計算實例EAIS等。讓最適合的專用硬件去服務(wù)最適合的業(yè)務(wù)場景。

在CPU+GPU的異構(gòu)計算架構(gòu)中,GPU與CPU通過PCle總線連接協(xié)同工作,CPU所在位置稱為主機(jī)端(host),而GPU所在位置稱為設(shè)備端(device)。基于CPU+GPU的異構(gòu)計算平臺可以優(yōu)勢互補(bǔ),CPU負(fù)責(zé)處理邏輯復(fù)雜的串行程序,而GPU重點處理數(shù)據(jù)密集型的并行計算程序,從而發(fā)揮最大功效。

越來越多的AI計算都采用異構(gòu)計算來實現(xiàn)性能加速。

阿里第一代計算型GPU實例,2017年對外發(fā)布GN4,搭載Nvidia M40加速器.,在萬兆網(wǎng)絡(luò)下面向人工智能深度學(xué)習(xí)場景,相比同時代的CPU服務(wù)器性能有近7倍的提升。

CPU適用于一系列廣泛的工作負(fù)載,特別是那些對于延遲和單位內(nèi)核性能要求較高的工作負(fù)載。作為強(qiáng)大的執(zhí)行引擎,CPU將它數(shù)量相對較少的內(nèi)核集中用于處理單個任務(wù),并快速將其完成。這使它尤其適合用于處理從串行計算到數(shù)據(jù)庫運行等類型的工作。

GPU最初是作為專門用于加速特定3D渲染任務(wù)的ASIC開發(fā)而成的。隨著時間的推移,這些功能固定的引擎變得更加可編程化、更加靈活。盡管圖形處理和當(dāng)下視覺效果越來越真實的頂級游戲仍是GPU的主要功能,但同時,它也已經(jīng)演化為用途更普遍的并行處理器,能夠處理越來越多的應(yīng)用程序。

81d6e48a-edfb-11ed-90ce-dac502259ad0.png

AI服務(wù)器作為算力基礎(chǔ)設(shè)備持續(xù)增長

AI服務(wù)器作為算力基礎(chǔ)設(shè)備,其需求有望受益于AI時代下對于算力不斷提升的需求而快速增長。根據(jù)TrendForce,截至2022年為止,預(yù)估搭載GPGPU(General Purpose GPU)的AI服務(wù)器年出貨量占整體服務(wù)器比重近1%,預(yù)估在ChatBot相關(guān)應(yīng)用加持下,有望再度推動AI相關(guān)領(lǐng)域的發(fā)展,預(yù)估出貨量年成長可達(dá)8%;2022~2026年復(fù)合成長率將達(dá)10.8%。

AI服務(wù)器是異構(gòu)服務(wù)器,可以根據(jù)應(yīng)用范圍采用不同的組合方式,如CPU + GPU、CPU + TPU、CPU +其他加速卡等。IDC預(yù)計,中國AI服務(wù)器2021年的市場規(guī)模為57億美元,同比增長61.6%,到2025年市場規(guī)模將增長到109億美元,CAGR為17.5%。

AI服務(wù)器構(gòu)成及形態(tài)

AI服務(wù)器主要構(gòu)成:以浪潮NF5688M6 服務(wù)器為例,其采用NVSwitch實現(xiàn)GPU跨節(jié)點P2P高速通信互聯(lián)。整機(jī)8 顆 NVIDIAAmpere架構(gòu)GPU,通過NVSwitch實現(xiàn)GPU跨節(jié)點P2P高速通信互聯(lián)。配置 2顆第三代Intel Xeon可擴(kuò)展處理器(Ice Lake),支持8塊2.5英寸NVMe SSD orSATA/SASSSD以及板載2塊SATA M.2,可選配1張PCIe 4.0 x16 OCP 3.0網(wǎng)卡,速率支持10G/25G/100G;

可支持10個PCIe 4.0 x16插槽, 2個PCIe 4.0 x16插槽(PCIe 4.0 x8速率), 1個OCP3.0插槽;支持32條DDR4RDIMM/LRDIMM內(nèi)存,速率最高支持3200MT/s,物理結(jié)構(gòu)還包括6塊3000W 80Plus鉑金電源、N+1冗余熱插拔風(fēng)扇、機(jī)箱等。

目前按照GPU數(shù)量的不同,有4顆GPU(浪潮NF5448A6)、8顆GPU(Nvidia A100 640GB)以及16顆GPU(NVIDIA DGX-2)的AI服務(wù)器。

81ebc0e4-edfb-11ed-90ce-dac502259ad0.png

AI服務(wù)器核心組件包括GPU(圖形處理器)、DRAM(動態(tài)隨機(jī)存取存儲器)、SSD(固態(tài)硬盤)和RAID卡、CPU(中央處理器)、網(wǎng)卡、PCB、高速互聯(lián)芯片(板內(nèi))和散熱模組等。

CPU主要供貨廠商為Intel、GPU目前領(lǐng)先廠商為國際巨頭英偉達(dá),以及國內(nèi)廠商如寒武紀(jì)、海光信息等。

AI服務(wù)器競爭格局

IDC發(fā)布了《2022年第四季度中國服務(wù)器市場跟蹤報告Prelim》。從報告可以看到,前兩名浪潮與新華三的變化較小,第三名為超聚變,從3.2%份額一躍而至10.1%,增幅遠(yuǎn)超其他服務(wù)器廠商。Top8服務(wù)器廠商中,浪潮、戴爾、聯(lián)想均出現(xiàn)顯著下滑,超聚變和中興則取得明顯增長。其中,浪潮份額從30.8%下降至28.1%;新華三份額從17.5%下降至17.2%;中興通訊從3.1%提升至5.3%,位居國內(nèi)第5。

聯(lián)想降幅最為明顯,從7.5%下降至4.9%。

據(jù)TrendForce集邦咨詢統(tǒng)計,2022年AI服務(wù)器采購占比以北美四大云端業(yè)者Google、AWS、Meta、Microsoft合計占66.2%為最,而中國近年來隨著國產(chǎn)化力道加劇,AI建設(shè)浪潮隨之增溫,以ByteDance的采購力道最為顯著,年采購占比達(dá)6.2%,其次緊接在后的則是Tencent、Alibaba與Baidu,分別約為2.3%、1.5%與1.5%。

國內(nèi)AI服務(wù)器競爭廠商包括:浪潮信息、新華三、超聚變、中興通訊等。

審核編輯 :李倩

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 服務(wù)器
    +關(guān)注

    關(guān)注

    13

    文章

    9795

    瀏覽量

    87993
  • 人工智能
    +關(guān)注

    關(guān)注

    1806

    文章

    49028

    瀏覽量

    249515
  • 產(chǎn)業(yè)鏈
    +關(guān)注

    關(guān)注

    3

    文章

    1356

    瀏覽量

    26416

原文標(biāo)題:服務(wù)器市場、產(chǎn)業(yè)鏈及競爭格局(2023)

文章出處:【微信號:架構(gòu)師技術(shù)聯(lián)盟,微信公眾號:架構(gòu)師技術(shù)聯(lián)盟】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點推薦

    我國為什么要發(fā)展半導(dǎo)體全產(chǎn)業(yè)鏈

    我國發(fā)展半導(dǎo)體產(chǎn)業(yè)的核心目的,可綜合政策導(dǎo)向、產(chǎn)業(yè)需求及國際競爭態(tài)勢,從以下四個維度進(jìn)行結(jié)構(gòu)化分析:一、突破關(guān)鍵技術(shù)瓶頸,實現(xiàn)產(chǎn)業(yè)鏈自主可控1.應(yīng)對外部技術(shù)封鎖美國對華實施光刻機(jī)等核心
    的頭像 發(fā)表于 06-09 13:27 ?465次閱讀
    我國為什么要發(fā)展半導(dǎo)體全<b class='flag-5'>產(chǎn)業(yè)鏈</b>

    國外bgp服務(wù)器多少錢?# 服務(wù)器

    服務(wù)器
    jf_57681485
    發(fā)布于 :2025年04月24日 14:19:00

    新加坡服務(wù)器延遲大嗎?真相在這里#新加坡服務(wù)器 #服務(wù)器

    服務(wù)器
    jf_57681485
    發(fā)布于 :2025年04月18日 13:48:50

    RAKsmart服務(wù)器如何重塑AI高并發(fā)算力格局

    在AI大模型參數(shù)量突破萬億級、實時推理需求激增的當(dāng)下,傳統(tǒng)服務(wù)器架構(gòu)的并發(fā)處理能力已逼近物理極限。RAKsmart通過“硬件重構(gòu)+軟件定義”的雙引擎創(chuàng)新,推出新一代AI服務(wù)器解決方案。下面,AI部落小編為您解析RAKsmart服務(wù)器
    的頭像 發(fā)表于 04-03 10:37 ?321次閱讀

    東升西降:從Wolfspeed危機(jī)看全球SiC碳化硅功率半導(dǎo)體產(chǎn)業(yè)鏈重構(gòu)

    的此消彼長。這一現(xiàn)象不僅是企業(yè)個體的興衰,更是技術(shù)迭代、政策支持、市場需求與資本流向共同作用的結(jié)果。以下從多個維度解析這一“東升西降”的產(chǎn)業(yè)格局演變。 Wolfspeed的危機(jī)標(biāo)志著歐美SiC碳化硅功率半導(dǎo)體
    的頭像 發(fā)表于 03-31 18:03 ?535次閱讀

    NTP校時服務(wù)器 時鐘同步服務(wù)器

    服務(wù)器
    jf_75250307
    發(fā)布于 :2025年03月19日 20:56:34

    信創(chuàng)大年,國產(chǎn)服務(wù)器產(chǎn)業(yè)智能化脫胎換骨?

    服務(wù)器
    腦極體
    發(fā)布于 :2025年02月14日 09:34:56

    維智科技入選2025年泰伯智庫數(shù)字孿生城市產(chǎn)業(yè)鏈圖譜

    近日,泰伯智庫發(fā)布《數(shù)字孿生城市產(chǎn)業(yè)鏈圖譜(2025)》,從基礎(chǔ)設(shè)施層、技術(shù)平臺層到集成應(yīng)用層三大層面切入,勾畫最新版數(shù)字孿生城市產(chǎn)業(yè)格局。
    的頭像 發(fā)表于 01-17 11:28 ?683次閱讀

    中國加速服務(wù)器市場前景廣闊

    近日,據(jù)IDC最新報告顯示,中國加速服務(wù)器市場在未來幾年內(nèi)將呈現(xiàn)出強(qiáng)勁的增長態(tài)勢。預(yù)計到2024年,該市場規(guī)模將達(dá)到190億美元,與2023年相比,將實現(xiàn)87%的顯著增長。這一數(shù)據(jù)不僅
    的頭像 發(fā)表于 01-07 10:22 ?427次閱讀

    華為汽車產(chǎn)業(yè)鏈的技術(shù)解析與未來展望

    編者語: 「智駕最前沿」微信公眾號后臺回復(fù): C-0613 ,獲取本文參考報告:《華為汽車產(chǎn)業(yè)鏈深度:競爭優(yōu)勢、產(chǎn)業(yè)機(jī)遇、產(chǎn)業(yè)鏈及相關(guān)企業(yè)深度梳理》pdf下載方式。 在全球汽車行業(yè)加速
    的頭像 發(fā)表于 12-05 12:28 ?1858次閱讀
    華為汽車<b class='flag-5'>產(chǎn)業(yè)鏈</b>的技術(shù)解析與未來展望

    碳化硅產(chǎn)業(yè)鏈成本大幅下降,市場迎來新變革

    近期市場消息指出,中國新能源汽車和光伏市場的快速發(fā)展,推動了碳化硅(SiC)產(chǎn)業(yè)鏈在技術(shù)迭代和產(chǎn)能擴(kuò)充上的加速。這一趨勢導(dǎo)致SiC產(chǎn)業(yè)鏈中的多個環(huán)節(jié)成本顯著下降,特別是SiC襯底、外延
    的頭像 發(fā)表于 10-22 11:48 ?1214次閱讀

    獨立服務(wù)器與云服務(wù)器的區(qū)別

    隨著互聯(lián)網(wǎng)技術(shù)的飛速發(fā)展,企業(yè)對于服務(wù)器的需求日益增加,而服務(wù)器市場也隨之出現(xiàn)了多種類型的產(chǎn)品,其中最常見的是獨立服務(wù)器和云服務(wù)器。這兩種
    的頭像 發(fā)表于 10-12 14:34 ?713次閱讀

    京準(zhǔn)電鐘:GPS北斗衛(wèi)星校時服務(wù)器助力區(qū)塊數(shù)據(jù)網(wǎng)

    京準(zhǔn)電鐘:GPS北斗衛(wèi)星校時服務(wù)器助力區(qū)塊數(shù)據(jù)網(wǎng)
    的頭像 發(fā)表于 09-27 10:43 ?617次閱讀
    京準(zhǔn)電鐘:GPS北斗衛(wèi)星校時<b class='flag-5'>服務(wù)器</b>助力區(qū)塊<b class='flag-5'>鏈</b>數(shù)據(jù)網(wǎng)

    gpu服務(wù)器與cpu服務(wù)器的區(qū)別對比,終于知道怎么選了!

    gpu服務(wù)器與cpu服務(wù)器的區(qū)別主要體現(xiàn)在架構(gòu)設(shè)計、性能特點、能耗效率、應(yīng)用場景、市場定位等方面,在以上幾個方面均存在顯著差異。CPU服務(wù)器更適合數(shù)據(jù)庫管理和企業(yè)應(yīng)用,而GPU
    的頭像 發(fā)表于 08-01 11:41 ?1027次閱讀