深度解析數(shù)據(jù)存儲(chǔ)技術(shù)發(fā)展趨勢(shì)

開源數(shù)據(jù)庫(kù)MySQL和PostgreSQL占據(jù)全球數(shù)據(jù)庫(kù)市場(chǎng)格局TOP2。開源數(shù)據(jù)庫(kù)正在重構(gòu)企業(yè)核心系統(tǒng)。同時(shí)為確保業(yè)務(wù)平穩(wěn)運(yùn)行，分布式數(shù)據(jù)庫(kù)存算分離架...

2023-12-06 標(biāo)簽：SSD數(shù)據(jù)存儲(chǔ)AI 1206 0

解讀大模型FP量化的解決方案

在 LLaMA, BERT 以及 ViTs 模型上，4-bit 量化皆取得了遠(yuǎn)超 SOTA 的結(jié)果。特別是，這篇文章展示了 4-bit 量化的 LLaM...

2023-11-24 標(biāo)簽：浮點(diǎn)數(shù)大模型LLM 1194 0

深度解析大語言模型的位置編碼及其外推性

我們先來回顧一下絕對(duì)位置編碼的問題。絕對(duì)位置編碼通過可學(xué)習(xí)的 Positional Embedding 來編碼位置信息，這種方案直接對(duì)不同的位置隨機(jī)初始...

2024-01-16 標(biāo)簽：電源優(yōu)化器位置編碼器大模型 1182 0

基于Transformer多模態(tài)先導(dǎo)性工作

多模態(tài)（Multimodality）是指在信息處理、傳遞和表達(dá)中涉及多種不同的感知模態(tài)或信息來源。這些感知模態(tài)可以包括語言、視覺、聽覺、觸覺等，它們共同...

2023-08-21 標(biāo)簽：數(shù)據(jù)人工智能Transformer 1136 0

使用OpenVINO?在你的本地設(shè)備上離線運(yùn)行Llama3之快手指南

在人工智能領(lǐng)域，大型語言模型（LLMs）的發(fā)展速度令人震驚。2024年4月18日，Meta正式開源了LLama系列的新一代大模型Llama3，在這一領(lǐng)域...

2024-04-26 標(biāo)簽：人工智能聊天機(jī)器人大模型 1135 0

AI算力研究框架（2023）

Transfomer架構(gòu)大模型訓(xùn)練對(duì)算力的消耗呈指數(shù)級(jí)增長(zhǎng)。2023年1月，ChatGPT計(jì)劃再向微軟融資100億美金，該融資將是新一代大模型算力基建的...

2023-06-15 標(biāo)簽：AI算力大模型 1132 0

語言模型的發(fā)展歷程 基于神經(jīng)網(wǎng)絡(luò)的語言模型解析

簡(jiǎn)單來說，語言模型能夠以某種方式生成文本。它的應(yīng)用十分廣泛，例如，可以用語言模型進(jìn)行情感分析、標(biāo)記有害內(nèi)容、回答問題、概述文檔等等。但理論上，語言模型的...

2023-07-14 標(biāo)簽：人工智能機(jī)器學(xué)習(xí)大模型 1109 0

大模型未來的產(chǎn)業(yè)發(fā)展趨勢(shì)和挑戰(zhàn)是什么

一般而言，大模型(Large Language Models)指的是包含超大規(guī)模參數(shù)的神經(jīng)網(wǎng)絡(luò)模型。大模型通常能夠?qū)W習(xí)到更細(xì)微的模式和規(guī)律，具有更強(qiáng)的泛...

2023-09-13 標(biāo)簽：神經(jīng)網(wǎng)絡(luò)語音識(shí)別人工智能 1107 0

英特爾一系列AI解決方案，為L(zhǎng)lama 2大模型提供實(shí)力之選

英特爾廣泛的AI硬件組合及開放的軟件環(huán)境，為Meta發(fā)布的Llama 2模型提供了極具競(jìng)爭(zhēng)力的選擇，進(jìn)一步助力大語言模型的普及，推動(dòng)AI發(fā)展惠及各行各業(yè)...

2023-07-25 標(biāo)簽：英特爾AI大模型 1096 0

Scaling Law大模型設(shè)計(jì)實(shí)操案例

縱軸是"Bits for words", 這也是交叉熵的一個(gè)單位。在計(jì)算交叉熵時(shí)，如果使用以 2 為底的對(duì)數(shù)，交叉熵的單位就是 &q...

2023-11-22 標(biāo)簽：語言模型GPTOpenAI 1093 0

【使用教程】基于MaaS DeepSeek API和Dify快速構(gòu)建一個(gè)網(wǎng)站智能客服

客服系統(tǒng)是企業(yè)與消費(fèi)者溝通的重要橋梁，然而傳統(tǒng)的人工客服存在著工資/培訓(xùn)成本高昂、數(shù)據(jù)收集和分析困難、難以全天候提供服務(wù)等痛點(diǎn)。

2025-04-19 標(biāo)簽：AI智能體大模型 1089 0

超分畫質(zhì)大模型！華為和清華聯(lián)合提出CoSeR：基于認(rèn)知的萬物超分大模型

一是缺乏泛化能力。為了實(shí)現(xiàn)更好的超分效果，通常需要針對(duì)特定場(chǎng)景使用特定傳感器采集到的數(shù)據(jù)來進(jìn)行模型訓(xùn)練，這種學(xué)習(xí)方式擬合了某種低清圖像和高清圖像間的映射...

2023-12-04 標(biāo)簽：傳感器圖像大模型 1079 0

FP8在大模型訓(xùn)練中的應(yīng)用

越來越多的技術(shù)團(tuán)隊(duì)開始使用 FP8 進(jìn)行大模型訓(xùn)練，這主要因?yàn)?FP8 有很多技術(shù)優(yōu)勢(shì)。比如在新一代的 GPU 上，F(xiàn)P8 相對(duì)于 BF16 對(duì)矩陣乘算...

2025-01-23 標(biāo)簽：NVIDIAgpu大模型 1066 0

基于雙級(jí)優(yōu)化（BLO）的消除過擬合的微調(diào)方法

這篇論文試圖解決的問題是大型預(yù)訓(xùn)練模型在下游任務(wù)中進(jìn)行微調(diào)時(shí)出現(xiàn)的過擬合問題。盡管低秩適應(yīng)（LoRA）及其變體通過學(xué)習(xí)低秩增量矩陣有效地減少了與完全微調(diào)...

2024-04-02 標(biāo)簽：數(shù)據(jù)集LoRa自然語言 1064 0

DeepSeek 正當(dāng)紅，聊聊大模型應(yīng)用的四大關(guān)鍵要素和未來

引言 大模型應(yīng)用的春天來了。在人工智能的浪潮中，大模型正成為推動(dòng)技術(shù)變革的核心力量。春節(jié)前，DeepSeek R1 的發(fā)布在全球范圍內(nèi)引發(fā)了巨大轟動(dòng)，它...

2025-04-18 標(biāo)簽：人工智能大模型DeepSeek 1049 0

大語言模型（LLMs）如何處理多語言輸入問題

研究者們提出了一個(gè)框架來描述LLMs在處理多語言輸入時(shí)的內(nèi)部處理過程，并探討了模型中是否存在特定于語言的神經(jīng)元。

2024-03-07 標(biāo)簽：神經(jīng)元自然語言大模型 1047 0

Continous Batching大模型推理關(guān)鍵技術(shù)

TurboTransformers算是比較早期指出輸入變長(zhǎng)需要新的Batching方法的論文。在2020年上半年，我開始思考如何把變長(zhǎng)輸入Batchin...

2024-01-23 標(biāo)簽：gpuGPTnlp 1044 0