數(shù)據(jù)中心處理器采用Chiplet有何優(yōu)勢？

生成式人工智能和大模型的驅(qū)動(dòng)下，我們正置身于一個(gè)算力領(lǐng)域千載難逢的拐點(diǎn)：一個(gè)類似于個(gè)人電腦、互聯(lián)網(wǎng)、移動(dòng)設(shè)備和云誕生的時(shí)刻。

2023-11-07 標(biāo)簽：英特爾gpu服務(wù)器 1099 0

移動(dòng)處理器發(fā)展新方向，整合更多的GPU將成為主流？

　高階行動(dòng)裝置對多媒體等視覺體驗(yàn)的要求愈來愈高，促使行動(dòng)處理器開發(fā)商大舉整合更多GPU核心，期借助平行運(yùn)算能力，分散CPU運(yùn)算負(fù)擔(dān)，進(jìn)而強(qiáng)化繪圖與視覺表現(xiàn)。

2013-12-23 標(biāo)簽：處理器GPUSoC 1093 2

2023算力研究：計(jì)算、存儲(chǔ)、網(wǎng)絡(luò)、軟件

計(jì)算：GPU是ChatGPT訓(xùn)練和推理的核心支柱，其更新速度遠(yuǎn)超過“摩爾定律” ，受益于AI和高性能市場需求增長，GPU行業(yè)景氣度顯著提升。AI服務(wù)器作...

2023-06-15 標(biāo)簽：gpu算力ChatGPT 1088 0

AMD正式推出Kira K24系統(tǒng)模塊(SOM)

近日，AMD正式推出了Kira K24系統(tǒng)模塊(SOM)、KD240驅(qū)動(dòng)器入門套件，尺寸極小，能效極高，非常適合對成本非常敏感的工業(yè)和商業(yè)邊緣應(yīng)用。

2023-09-27 標(biāo)簽：驅(qū)動(dòng)器amd電機(jī)控制 1071 0

FP8在大模型訓(xùn)練中的應(yīng)用

越來越多的技術(shù)團(tuán)隊(duì)開始使用 FP8 進(jìn)行大模型訓(xùn)練，這主要因?yàn)?FP8 有很多技術(shù)優(yōu)勢。比如在新一代的 GPU 上，F(xiàn)P8 相對于 BF16 對矩陣乘算...

2025-01-23 標(biāo)簽：NVIDIAgpu大模型 1069 0

FPGA為什么比GPU的延遲低這么多？

FPGA 正是一種硬件可重構(gòu)的體系結(jié)構(gòu)。它的英文全稱是Field Programmable Gate Array，中文名是現(xiàn)場可編程門陣列。 FP...

2024-04-08 標(biāo)簽：cpugpu圖像處理 1066 0

助力轉(zhuǎn)型：GPU如何完成曾經(jīng)不可能完成的分析工作

最新版本的Cloudera Data Platform采用通過NVIDIA技術(shù)加速的Spark 3.0，能夠幫助操作團(tuán)隊(duì)實(shí)現(xiàn)8倍性能提升，從而成功運(yùn)行一...

2021-08-06 標(biāo)簽：gpu機(jī)器學(xué)習(xí) 1053 0

如何利用3D點(diǎn)編碼提升PETRV1/V2及StreamPETR性能

由于3DPPE在構(gòu)建圖像特征的位置編碼時(shí)引入了顯式的深度信息，使得對應(yīng)的位置先驗(yàn)與真實(shí)物理世界的分布更為一致，從而有效的減緩了沿射線方向的誤檢。

2023-11-24 標(biāo)簽：cpugpu特斯拉 1051 0

如何使用GPU渲染模式分析工具進(jìn)行分析

每個(gè)豎條都是一次VSync的時(shí)間16.6ms，如果豎條寬度變寬且透明則代表超出16.6ms繪制的幀 * 每個(gè)Vsync信號來臨前都會(huì)做工作（Chore...

2023-02-09 標(biāo)簽：gpu函數(shù)渲染 1050 0

RISC-V芯片新突破：CPU與GPU一體化核心設(shè)計(jì)

X-Silicon 的芯片與其他架構(gòu)不同，其設(shè)計(jì)將 CPU 和 GPU 的功能結(jié)合到單核架構(gòu)中。這與 Intel 和 AMD 的典型設(shè)計(jì)不同，后者有獨(dú)立...

2024-04-07 標(biāo)簽：處理器cpugpu 1045 0

Continous Batching大模型推理關(guān)鍵技術(shù)

TurboTransformers算是比較早期指出輸入變長需要新的Batching方法的論文。在2020年上半年，我開始思考如何把變長輸入Batchin...

2024-01-23 標(biāo)簽：gpuGPTnlp 1045 0

一文帶你了解NVIDIA Jetson

計(jì)算機(jī)發(fā)展成為今天的機(jī)器有著悠久的歷史，今天看到的許多計(jì)算機(jī)都遵循類似的設(shè)計(jì)結(jié)構(gòu)，至少包含CPU、GPU、內(nèi)存和存儲(chǔ)。迄今為止，我們對計(jì)算機(jī)設(shè)計(jì)的了解大...

2024-04-09 標(biāo)簽：NVIDIAgpu人工智能 1037 0

一文解析AI驅(qū)動(dòng)光模塊變革

傳統(tǒng)的三層架構(gòu)已不再適應(yīng)日益增長的數(shù)據(jù)中心流量需求，葉脊架構(gòu)的出現(xiàn)解決了這一問題。葉脊架構(gòu)下，光模塊數(shù)量可高達(dá)數(shù)十倍，以滿足大規(guī)模AI集群對大帶寬、低時(shí)...

2024-04-22 標(biāo)簽：gpu數(shù)據(jù)中心光通信 1037 0

Omniverse Connectors功能及區(qū)別簡析

NVIDIA Omniverse? Connect 允許您使用常用的應(yīng)用程序作為 NVIDIA Omniverse? 平臺的內(nèi)容交付工具。

2024-01-05 標(biāo)簽：連接器NVIDIAgpu 1033 0

全球GPU市場分析 GPU在汽車電子中的應(yīng)用情況

以ChatGPT的訓(xùn)練為例，單次模型訓(xùn)練就可能需要超過2000張英偉達(dá)A100顯卡持續(xù)不斷地訓(xùn)練27天。不僅如此，大模型的日常運(yùn)行中每一次用戶調(diào)用都需要...

2023-11-10 標(biāo)簽：amdNVIDIAgpu 1033 0

為什么GPU的壽命如此之短

最近外面總在討論GPU的壽命只有三年。

2024-10-29 標(biāo)簽：gpu實(shí)驗(yàn)室ECC 1029 0

基于Transformer模型的壓縮方法

基于Transformer架構(gòu)的大型模型在人工智能領(lǐng)域中發(fā)揮著日益重要的作用，特別是在自然語言處理（NLP）和計(jì)算機(jī)視覺（CV）領(lǐng)域。

2024-02-22 標(biāo)簽：變壓器編碼器gpu 1025 0