動態(tài)

• 發(fā)布了文章 2025-03-03 11:51

  小白學大模型：訓練大語言模型的深度指南

  

  在當今人工智能飛速發(fā)展的時代，大型語言模型（LLMs）正以其強大的語言理解和生成能力，改變著我們的生活和工作方式。在最近的一項研究中，科學家們?yōu)榱松钊肓私馊绾胃咝У赜柧毚笮驼Z言模型，進行了超過4000次的實驗。這些實驗動用了多達512個GPU（圖形處理單元），它們協(xié)同工作，為模型訓練提供了強大的計算支持。在這項研究中，研究人員特別關(guān)注了兩個關(guān)鍵指標：吞吐量（

  AI 人工智能 語言模型

  493瀏覽量

• 發(fā)布了文章 2025-02-28 08:34

  先進汽車GPU的高速和高效開發(fā)將加速智能駕駛的更廣泛普及

  

  2025年1月，中國汽車產(chǎn)銷分別完成245萬輛和242.3萬輛，產(chǎn)量同比增長1.7%，銷量同比下降0.6%。其中，新能源汽車產(chǎn)銷分別完成101.5萬輛和94.4萬輛，同比分別增長29%和29.4%，新能源汽車新車銷量達到汽車新車總銷量的38.9%；乘用車產(chǎn)銷分別完成215.1萬輛和213.3萬輛，同比分別

  gpu 智能駕駛 汽車

  971瀏覽量

• 發(fā)布了文章 2025-02-27 08:33

  從圖形處理到AI加速，一文看懂Imagination D系列GPU

  

  Imagination的D系列于2022年首次發(fā)布，見證了生成式AI從云端到智能手機等消費設(shè)備中普及。在云端，由于GPU的可編程性、可擴展性和快速處理AI工作負載的能力，GPU已成為高效的AI加速器。這種特性也被沿用到消費設(shè)備中。是以，隨著新興GPU應(yīng)用的出現(xiàn)，其重點已從提供游戲和高級圖形效果（如光線追蹤）轉(zhuǎn)向能夠作為高效的AI加速器。為了應(yīng)對日益嚴苛的應(yīng)用

  AI gpu imagination

  295瀏覽量

• 發(fā)布了文章 2025-02-26 08:32

  Imagination DXTP GPU IP：加速游戲 AI應(yīng)用，全天候暢玩無阻

  

  Imagination推出了最新產(chǎn)品——ImaginationDXTPGPUIP，在智能手機和其他功耗受限設(shè)備上加速圖形和AI工作負載時，保證全天候的電池續(xù)航。它是我們最新D系列GPU的最終產(chǎn)品，集成了自2022年發(fā)布以來引入的一系列功能，并實現(xiàn)了高達20%的功耗效率提升。自2022年IMGDXT發(fā)布以來，智能手機市場已經(jīng)發(fā)生了顯著變化。最新一代的基礎(chǔ)AI模

  AI gpu imagination

  293瀏覽量

• 發(fā)布了文章 2025-02-25 08:04

  Imagination通過最新的D系列GPU IP將效率提升至新高度

  

  ImaginationDXTPGPUIP在加速移動設(shè)備和其他電力受限設(shè)備上的圖形和計算工作負載時，能夠延長電池續(xù)航時間。英國倫敦–2025年2月25日–今日，ImaginationTechnologies（“Imagination”）宣布推出其最新的GPUIP——ImaginationDXTP，該產(chǎn)品為智能手機和其他電力受限設(shè)備上圖形和計算工作負載的高效加速

  AI gpu imagination

  405瀏覽量

• 發(fā)布了文章 2025-02-24 12:02

  【一文看懂】什么是端側(cè)算力？

  

  隨著物聯(lián)網(wǎng)（IoT）、人工智能和5G技術(shù)的快速發(fā)展，端側(cè)算力正逐漸成為智能設(shè)備性能提升和智能化應(yīng)用實現(xiàn)的關(guān)鍵技術(shù)。什么是端側(cè)算力，它的應(yīng)用價值是什么，與云計算、邊緣計算有哪些區(qū)別？本文從以下6個維度向您介紹全方面端側(cè)算力：1.端側(cè)算力的定義2.端側(cè)算力的技術(shù)框架3.端側(cè)算力的應(yīng)用價值與場景4.端側(cè)算力與其他技術(shù)的互補5.端側(cè)算力與相關(guān)技術(shù)的區(qū)別6.端側(cè)算力的

  智能設(shè)備 深度神經(jīng)網(wǎng)絡(luò) 算力

  855瀏覽量

• 發(fā)布了文章 2025-02-21 11:11

  從CPU到GPU：渲染技術(shù)的演進和趨勢

  

  渲染技術(shù)是計算機圖形學的核心內(nèi)容之一，它是將三維場景轉(zhuǎn)換為二維圖像的過程。渲染技術(shù)一直在不斷演進，從最初的CPU渲染到后來的GPU渲染，性能和質(zhì)量都有了顯著提升。一、從CPU到GPU：技術(shù)特點和優(yōu)缺點CPU（CentralProcessingUnit）是計算機的中央處理器，它負責執(zhí)行各種程序和指令。CPU渲染是指使用CPU來執(zhí)行渲染流程，包括幾何處理、光柵化

  cpu gpu 渲染

  517瀏覽量

• 發(fā)布了文章 2025-02-20 13:11

  AI的“隨機性”挑戰(zhàn)：它們比人類更“不隨機”？

  

  你有沒有想過，人類真的能做出完全隨機的選擇嗎？答案可能出乎你的意料。事實上，人類天生就不擅長“隨機”，我們總能在看似無序的事物中發(fā)現(xiàn)規(guī)律，甚至在本該隨機的場景中創(chuàng)造出模式。這種“偽隨機”行為，其實是一種獨特的人類特質(zhì)。最近，來自康奈爾大學探討了大語言模型（LLMs）在隨機性方面的表現(xiàn)。他們通過一個經(jīng)典的實驗——生成二進制隨機序列，來觀察這些模型是否能像人類一

  AI LLM 語言模型

  498瀏覽量

• 發(fā)布了文章 2025-02-19 11:49

  大模型領(lǐng)域常用名詞解釋（近100個）

  

  本文總結(jié)了大模型領(lǐng)域常用的近100個名詞解釋，并按照模型架構(gòu)與基礎(chǔ)概念，訓練方法與技術(shù)，模型優(yōu)化與壓縮，推理與應(yīng)用，計算與性能優(yōu)化，數(shù)據(jù)與標簽，模型評估與調(diào)試，特征與數(shù)據(jù)處理，倫理與公平性、其他的分類進行了整理，以下供參考：模型架構(gòu)與基礎(chǔ)概念大語言模型（LLM，LargeLanguageModel）：一種基于深度學習的大規(guī)模神經(jīng)網(wǎng)絡(luò)模型，通常采用Transf

  大模型 機器學習 深度學習

  586瀏覽量

• 發(fā)布了文章 2025-02-18 12:00

  大語言模型的解碼策略與關(guān)鍵優(yōu)化總結(jié)

  

  本文系統(tǒng)性地闡述了大型語言模型(LargeLanguageModels,LLMs)中的解碼策略技術(shù)原理及其實踐應(yīng)用。通過深入分析各類解碼算法的工作機制、性能特征和優(yōu)化方法，為研究者和工程師提供了全面的技術(shù)參考。主要涵蓋貪婪解碼、束搜索、采樣技術(shù)等核心解碼方法，以及溫度參數(shù)、懲罰機制等關(guān)鍵優(yōu)化手段。大型語言模型的技術(shù)基礎(chǔ)大型語言模型是當代自然語言處理技術(shù)的核心

  LLM 解碼技術(shù) 語言模型

  425瀏覽量