動(dòng)態(tài)

• 發(fā)布了文章 2025-02-18 12:00

  大語言模型的解碼策略與關(guān)鍵優(yōu)化總結(jié)

  

  本文系統(tǒng)性地闡述了大型語言模型(LargeLanguageModels,LLMs)中的解碼策略技術(shù)原理及其實(shí)踐應(yīng)用。通過深入分析各類解碼算法的工作機(jī)制、性能特征和優(yōu)化方法，為研究者和工程師提供了全面的技術(shù)參考。主要涵蓋貪婪解碼、束搜索、采樣技術(shù)等核心解碼方法，以及溫度參數(shù)、懲罰機(jī)制等關(guān)鍵優(yōu)化手段。大型語言模型的技術(shù)基礎(chǔ)大型語言模型是當(dāng)代自然語言處理技術(shù)的核心

  LLM 解碼技術(shù) 語言模型

  553瀏覽量

• 發(fā)布了文章 2025-02-17 14:42

  智算中心的核心硬件是什么？

  

  智算中心，作為人工智能時(shí)代的關(guān)鍵基礎(chǔ)設(shè)施，其核心硬件的構(gòu)成與性能直接影響著智能計(jì)算的效率與質(zhì)量。以下是對(duì)智算中心核心硬件的詳細(xì)闡述：一、AI芯片AI芯片是專門為加速人工智能計(jì)算而設(shè)計(jì)的硬件，能夠與各種AI算法協(xié)同工作，滿足對(duì)算力的極高需求。當(dāng)前主流的AI加速計(jì)算芯片包括：1、GPU（圖形處理器）GPU是智算中心的算力擔(dān)當(dāng)，其強(qiáng)大的并行計(jì)算能力使其在深度學(xué)習(xí)領(lǐng)

  AI 智算中心 硬件圖

  1.1k瀏覽量

• 發(fā)布了文章 2025-02-14 09:49

  清華大學(xué)發(fā)布：DeepSeek從入門到精通

  

  《DeepSeek：從入門到精通》是由清華大學(xué)新聞與傳播學(xué)院新媒體研究中心元宇宙文化實(shí)驗(yàn)室的余夢(mèng)瓏博士后團(tuán)隊(duì)精心撰寫的一份專業(yè)文檔。該文檔篇幅長(zhǎng)達(dá)104頁，文檔的核心內(nèi)容圍繞DeepSeek的技術(shù)特點(diǎn)、應(yīng)用場(chǎng)景、使用方法以及如何通過提示語設(shè)計(jì)提升AI使用效率等方面展開，幫助用戶從入門到精通DeepSeek的使用

  AI DeepSeek 人工智能

  1.1w瀏覽量

• 發(fā)布了文章 2025-02-13 10:57

  人工智能大模型年度發(fā)展趨勢(shì)報(bào)告

  

  2024年12月的中央經(jīng)濟(jì)工作會(huì)議明確把開展“人工智能+”行動(dòng)作為2025年要抓好的重點(diǎn)任務(wù)。當(dāng)前，以大模型為代表的人工智能正快速演進(jìn)，激發(fā)全球科技之變、產(chǎn)業(yè)之變、時(shí)代之變，人工智能發(fā)展迎來新高潮。隨著大模型推理、多模

  AI 人工智能 大模型

  747瀏覽量

• 發(fā)布了文章 2025-02-10 12:12

  小白學(xué)解釋性AI：從機(jī)器學(xué)習(xí)到大模型

  

  科學(xué)AI需要可解釋性人工智能的崛起，尤其是深度學(xué)習(xí)的發(fā)展，在眾多領(lǐng)域帶來了令人矚目的進(jìn)步。然而，伴隨這些進(jìn)步而來的是一個(gè)關(guān)鍵問題——“黑箱”問題。許多人工智能模型，特別是復(fù)雜的模型，如神經(jīng)網(wǎng)

  AI 大模型 機(jī)器學(xué)習(xí)

  595瀏覽量

• 發(fā)布了文章 2025-02-08 14:29

  AR和VR中的計(jì)算機(jī)視覺

  

  增強(qiáng)現(xiàn)實(shí)(AR)和虛擬現(xiàn)實(shí)(VR)正在徹底改變我們與外部世界的互動(dòng)方式。即便是在引人入勝的沉浸式敘事和交互體驗(yàn)背后，這一切魔法都是通過尖端技術(shù)的精妙協(xié)調(diào)創(chuàng)造出來的。增強(qiáng)現(xiàn)實(shí)(AR)與虛擬現(xiàn)實(shí)(VR)：計(jì)算機(jī)視覺引領(lǐng)混合現(xiàn)實(shí)體驗(yàn)增強(qiáng)現(xiàn)實(shí)(AR)和虛擬現(xiàn)實(shí)(VR)正在徹底改變我們與外部世界的互動(dòng)方式。即便是在引人入勝的沉浸式

  Ar vr 計(jì)算機(jī)視覺

  1.2k瀏覽量

• 發(fā)布了文章 2025-02-08 14:29

  GPU 性能原理拆解

  

  「迷思」是指經(jīng)由人們口口相傳，但又難以證明證偽的現(xiàn)象。由于GPU硬件實(shí)現(xiàn)、驅(qū)動(dòng)實(shí)現(xiàn)是一個(gè)黑盒，我們只能通過廠商提供的API、經(jīng)過抽象的架構(gòu)來了解并猜測(cè)其原理。因此坊間流傳著各種關(guān)于與GPU打交道時(shí)的性能迷思。比如「移動(dòng)端的瓶頸是帶寬」、「移動(dòng)端不需要太在意Overdraw」、「植被需要做PrePass」等等。這些優(yōu)化手段，有時(shí)候我們對(duì)后面的原理一知半解，有時(shí)

  gpu 硬件 蘋果

  625瀏覽量

• 發(fā)布了文章 2025-02-08 14:28

  Imagination D系列GPU：關(guān)于2D 雙速率紋理處理

  

  對(duì)于每一代GPU，Imagination內(nèi)部的性能團(tuán)隊(duì)都會(huì)運(yùn)行廣泛的測(cè)試內(nèi)容，分析并理解不同類型的工作負(fù)載及其瓶頸。作為分析的一部分，數(shù)據(jù)顯示許多現(xiàn)代游戲在執(zhí)行后處理算法上花費(fèi)了越來越多的時(shí)間，以實(shí)現(xiàn)景深、光暈、模糊等效果。大多數(shù)這些后處理過程都是以紋理采樣為主的過濾效果，它們對(duì)算術(shù)邏輯單元(ALU)的要求不高，但受限于紋理處理單元(TPU)的吞吐率。解決這

  gpu imagination TPU

  382瀏覽量

• 發(fā)布了文章 2025-02-08 14:28

  Kaggle知識(shí)點(diǎn)：7種超參數(shù)搜索方法

  

  數(shù)據(jù)科學(xué)超參數(shù)搜索確實(shí)是機(jī)器學(xué)習(xí)生命周期中不可或缺的一步，特別是在模型性能方面。正確的超參數(shù)選擇可以顯著提高模型的準(zhǔn)確性、對(duì)未見數(shù)據(jù)的泛化能力以及收斂速度。不當(dāng)?shù)某瑓?shù)選擇可能導(dǎo)致過擬合或欠擬合等問題。一些常見的超參數(shù)例子包括梯度基算法中的學(xué)習(xí)率，或者決策樹算法中樹的深度，這些可以直接影響模型準(zhǔn)確擬合訓(xùn)練數(shù)據(jù)的能力。超參數(shù)調(diào)優(yōu)涉及在復(fù)雜的、高維的超參數(shù)空間中

  人工智能 機(jī)器學(xué)習(xí) 模型

  903瀏覽量

• 發(fā)布了文章 2025-02-08 14:27

  高性能計(jì)算，名副其實(shí)的“算力皇冠”

  

  近年來，從金融到汽車、從教育到醫(yī)療，人工智能技術(shù)，特別是以ChatGPT為代表的生成式人工智能，正在給整個(gè)世界帶來顛覆性體驗(yàn)。在如今這個(gè)“人工智能時(shí)代”，人工智能技術(shù)的發(fā)展離不開服務(wù)于AI算法訓(xùn)練和推理的高性能計(jì)算技術(shù)。今天，我們就來聊一聊高性能計(jì)算。計(jì)算機(jī)科學(xué)的“皇冠”初次涉及高性能計(jì)算，可能許多人會(huì)按照字面意思理解為計(jì)算性能較好的算法，從而將其列入眾多算

  AI 人工智能 高性能計(jì)算

  784瀏覽量