英偉達(dá)發(fā)布AI模型 Llama-3.1-Nemotron-51B AI模型
英偉達(dá)公司宣布推出 Llama-3.1-Nemotron-51B AI 模型，這個(gè)AI大模型是源自 Meta 公司的 Llama-3.1-70B大模型，基于使用了神經(jīng)架構(gòu)搜索（NAS）方法，推理速度比原70B大模型提升2.2倍，具備更準(zhǔn)確和更高效的運(yùn)算效率；能夠大幅降低運(yùn)行成本。
通過(guò)NAS技術(shù)微調(diào)；大幅降低了內(nèi)存消耗、計(jì)算復(fù)雜性；Llama-3.1-Nemotron-51B AI 模型在單個(gè)H100 GPU上的表現(xiàn)非常優(yōu)秀，在推理過(guò)程中可以在單個(gè) GPU 上運(yùn)行 4 倍以上的工作負(fù)載。這使得單片H100 GPU即可處理更大型的推理任務(wù)；這無(wú)疑是顯著的降低了訓(xùn)練成本。這為AI提供了高效、經(jīng)濟(jì)的方案。
聲明：本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問題，請(qǐng)聯(lián)系本站處理。
舉報(bào)投訴
-
英偉達(dá)
+關(guān)注
關(guān)注
22文章
3900瀏覽量
92900 -
AI大模型
+關(guān)注
關(guān)注
0文章
358瀏覽量
465
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
AI大模型不再依賴英偉達(dá)GPU？蘋果揭秘自研大模型
? 電子發(fā)燒友網(wǎng)報(bào)道（文/梁浩斌）過(guò)去幾年中爆發(fā)的AI算力需求，英偉達(dá)GPU成為了最大的贏家，無(wú)論是自動(dòng)駕駛還是AI大模型，比如特斯拉、小鵬
IBM在watsonx.ai平臺(tái)推出DeepSeek R1蒸餾模型
IBM近日宣布了一項(xiàng)重要更新，為其企業(yè)級(jí)AI開發(fā)平臺(tái)watsonx.ai引入了DeepSeek R1的Llama 3.1 8B和
英偉達(dá)發(fā)布Nemotron-CC大型AI訓(xùn)練數(shù)據(jù)庫(kù)
近日，英偉達(dá)在其官方博客上宣布了一項(xiàng)重大進(jìn)展，推出了一款名為Nemotron-CC的大型英文AI訓(xùn)練數(shù)據(jù)庫(kù)。這一數(shù)據(jù)庫(kù)的發(fā)布，標(biāo)志著
NVIDIA推出開放式Llama Nemotron系列模型
作為 NVIDIA NIM 微服務(wù)，開放式 Llama Nemotron 大語(yǔ)言模型和 Cosmos Nemotron 視覺語(yǔ)言模型可在任何
Meta重磅發(fā)布Llama 3.3 70B：開源AI模型的新里程碑
新的高度。 一，技術(shù)突破：開源智能的新高度 Llama 3.3 70B 模型的發(fā)布，標(biāo)志著開源AI模型
Llama 3 與開源AI模型的關(guān)系
在人工智能（AI）的快速發(fā)展中，開源AI模型扮演著越來(lái)越重要的角色。它們不僅推動(dòng)了技術(shù)的創(chuàng)新，還促進(jìn)了全球開發(fā)者社區(qū)的合作。Llama 3，作為一個(gè)新興的
Llama 3 模型與其他AI工具對(duì)比
Llama 3模型與其他AI工具的對(duì)比可以從多個(gè)維度進(jìn)行，包括但不限于技術(shù)架構(gòu)、性能表現(xiàn)、應(yīng)用場(chǎng)景、定制化能力、開源與成本等方面。以下是對(duì)Llama 3
英偉達(dá)震撼發(fā)布:全新AI模型參數(shù)規(guī)模躍升至80億量級(jí)
8月23日，英偉達(dá)宣布，其全新AI模型面世，該模型參數(shù)規(guī)模高達(dá)80億，具有精度高、計(jì)算效益大等優(yōu)勢(shì)，適用于GPU加速的數(shù)據(jù)中心、云及工作站環(huán)
Meta Llama 3.1系列模型可在Google Cloud上使用
我們很高興宣布，Llama 3.1 系列模型已添加到 Vertex AI Model Garden，這包括全新的 405B，即 Meta 迄
Meta發(fā)布全新開源大模型Llama 3.1
科技巨頭Meta近期震撼發(fā)布了其最新的開源人工智能（AI）模型——Llama 3.1，這一舉措標(biāo)志著Meta在
NVIDIA AI Foundry 為全球企業(yè)打造自定義 Llama 3.1 生成式 AI 模型
借助 NVIDIA AI Foundry，企業(yè)和各國(guó)現(xiàn)在能夠使用自有數(shù)據(jù)與 Llama 3.1 405B 和 NVIDIA Nemotron
發(fā)表于 07-24 09:39
?819次閱讀
Meta即將發(fā)布超強(qiáng)開源AI模型Llama 3-405B
在人工智能領(lǐng)域的激烈競(jìng)爭(zhēng)中，Meta公司再次擲出重磅炸彈，宣布將于7月23日正式發(fā)布其最新力作——Llama 3-405B，一個(gè)擁有驚人4050億參數(shù)的開源大模型。這一舉措不僅標(biāo)志著M
英偉達(dá)開源Nemotron-4 340B系列模型，助力大型語(yǔ)言模型訓(xùn)練
近日，英偉達(dá)宣布開源了一款名為Nemotron-4 340B的大型模型，這一壯舉為開發(fā)者們打開了通往高性能大型語(yǔ)言
英偉達(dá)推出AI模型推理服務(wù)NVIDIA NIM
英偉達(dá)近日宣布推出一項(xiàng)革命性的AI模型推理服務(wù)——NVIDIA NIM。這項(xiàng)服務(wù)將極大地簡(jiǎn)化AI模型
英偉達(dá)首席執(zhí)行官黃仁勛：AI模型推動(dòng)英偉達(dá)AI芯片需求
近來(lái)，以ChatGPT為代表的AI聊天機(jī)器人已經(jīng)導(dǎo)致英偉達(dá)AI芯片供應(yīng)緊張。然而，隨著能夠創(chuàng)造視頻并進(jìn)行近似人類交流的新型AI
工商網(wǎng)監(jiān)
評(píng)論