一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

NVIDIA發(fā)布Riva語(yǔ)音AI和大型LLM軟件

星星科技指導(dǎo)員 ? 來(lái)源:NVIDIA ? 作者:Siddharth Sharma ? 2022-04-01 16:27 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

NVIDIA 發(fā)布了 NVIDIA Riva 在語(yǔ)音人工智能方面的新突破, NVIDIA NeMo 在大規(guī)模語(yǔ)言建模( LLM )方面的新突破。 Riva 是一款 GPU 加速語(yǔ)音人工智能 SDK ,用于企業(yè)為其品牌和虛擬助手生成富有表現(xiàn)力的類人語(yǔ)音。 NeMo 是語(yǔ)音和 NLU 的加速培訓(xùn)框架,它現(xiàn)在有能力開(kāi)發(fā)具有數(shù)萬(wàn)億參數(shù)的大規(guī)模語(yǔ)言模型。

語(yǔ)音和語(yǔ)言人工智能的這些進(jìn)步使企業(yè)和研究機(jī)構(gòu)能夠輕松構(gòu)建針對(duì)其行業(yè)和領(lǐng)域定制的最先進(jìn)的對(duì)話人工智能功能。

英偉達(dá) Riva

NVIDIA 發(fā)布了一個(gè)具有定制語(yǔ)音功能的新版本,企業(yè)只需 30 分鐘的語(yǔ)音數(shù)據(jù)即可輕松創(chuàng)建獨(dú)特的語(yǔ)音來(lái)代表其品牌。

此外, NVIDIA 宣布了Riva Enterprise,這是一項(xiàng)付費(fèi)計(jì)劃,包括為需要大規(guī)模 Riva 部署的企業(yè)提供 NVIDIA 專家支持。 Riva 仍然免費(fèi)提供給工作量較小的客戶和合作伙伴。

亮點(diǎn)包括:

在 A100 上用一天 30 分鐘的音頻數(shù)據(jù)創(chuàng)建一個(gè)新的神經(jīng)語(yǔ)音。

細(xì)粒度控件以生成富有表現(xiàn)力的聲音。

A100 上的 Fastpitch + HiFiGAN 比 V100 上的 Tacotron2 + WaveGlow 性能高 12 倍。

支持五種其他語(yǔ)言的世界級(jí)語(yǔ)音識(shí)別。

擴(kuò)展到成百上千的實(shí)時(shí)流。

在任何云端、本地和邊緣運(yùn)行。

注冊(cè)以接收有關(guān) Riva Enterprise 的最新消息和更新,以進(jìn)行大規(guī)模部署 》》

使用 Riva 開(kāi)發(fā)應(yīng)用程序

閱讀此introductory post to了解 Riva 工作流中的組件。

接下來(lái),按照本教程構(gòu)建您自己的端到端語(yǔ)音識(shí)別服務(wù):

Parthart: 1-EC6

Parthart: H2-Em7

Parthut: 3-ECEN-18

有關(guān)構(gòu)建virtual assistants和transcription with entity recognition等語(yǔ)音應(yīng)用程序的更多教程,請(qǐng)?jiān)L問(wèn)Riva Getting Started. 》》

NVIDIA NeMo Megatron 、 Triton 多 – GPU 多節(jié)點(diǎn)推理和 Megatron 530B

NVIDIA 還推出了為企業(yè)構(gòu)建、定制和部署大型語(yǔ)言模型的功能。 NeMo Megatron 是 NeMo 框架中的一項(xiàng)新功能,用于培訓(xùn)多達(dá)數(shù)萬(wàn)億個(gè)參數(shù)的大型語(yǔ)言模型( LLM )。

它包括Megatron方面的進(jìn)步,這是一個(gè)由 NVIDIA 研究人員領(lǐng)導(dǎo)的開(kāi)源項(xiàng)目,旨在開(kāi)發(fā)有效培訓(xùn)法學(xué)碩士的技術(shù)。企業(yè)可以使用 NeMo Megatron 定制 LLM ,如 Megatron 530B ,并使用 NVIDIA Triton 推理服務(wù)器跨多個(gè) GPU 和節(jié)點(diǎn)進(jìn)行部署。

亮點(diǎn)包括:

在包含數(shù)十億頁(yè)文本的龐大數(shù)據(jù)集上自動(dòng)化數(shù)據(jù)整理。

為新的域和語(yǔ)言培訓(xùn)Megatron 530B等模型。

從單節(jié)點(diǎn)擴(kuò)展到超級(jí)計(jì)算機(jī),包括數(shù)十個(gè)DGX A100系統(tǒng)。

導(dǎo)出到多個(gè)節(jié)點(diǎn)和 GPU s ,用于使用 NVIDIA Triton 推理服務(wù)器進(jìn)行實(shí)時(shí)推理。

關(guān)于作者

Siddharth Sharma 是NVIDIA 加速計(jì)算的高級(jí)技術(shù)營(yíng)銷經(jīng)理。在加入NVIDIA 之前, Siddharth 是 Mathworks Simulink 和 Stateflow 的產(chǎn)品營(yíng)銷經(jīng)理,與汽車和航空航天公司密切合作,采用基于模型的設(shè)計(jì)來(lái)創(chuàng)建控制軟件。

審核編輯:郭婷

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • NVIDIA
    +關(guān)注

    關(guān)注

    14

    文章

    5309

    瀏覽量

    106425
  • 服務(wù)器
    +關(guān)注

    關(guān)注

    13

    文章

    9795

    瀏覽量

    88001
  • 人工智能
    +關(guān)注

    關(guān)注

    1807

    文章

    49029

    瀏覽量

    249584
  • LLM
    LLM
    +關(guān)注

    關(guān)注

    1

    文章

    325

    瀏覽量

    844
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    使用NVIDIA Triton和TensorRT-LLM部署TTS應(yīng)用的最佳實(shí)踐

    針對(duì)基于 Diffusion 和 LLM 類別的 TTS 模型,NVIDIA Triton 和 TensorRT-LLM 方案能顯著提升推理速度。在單張 NVIDIA Ada Love
    的頭像 發(fā)表于 06-12 15:37 ?611次閱讀
    使用<b class='flag-5'>NVIDIA</b> Triton和TensorRT-<b class='flag-5'>LLM</b>部署TTS應(yīng)用的最佳實(shí)踐

    LM Studio使用NVIDIA技術(shù)加速LLM性能

    隨著 AI 使用場(chǎng)景不斷擴(kuò)展(從文檔摘要到定制化軟件代理),開(kāi)發(fā)者和技術(shù)愛(ài)好者正在尋求以更 快、更靈活的方式來(lái)運(yùn)行大語(yǔ)言模型(LLM)。
    的頭像 發(fā)表于 06-06 15:14 ?281次閱讀
    LM Studio使用<b class='flag-5'>NVIDIA</b>技術(shù)加速<b class='flag-5'>LLM</b>性能

    Cognizant將與NVIDIA合作部署神經(jīng)人工智能平臺(tái),加速企業(yè)人工智能應(yīng)用

    -Cognizant將與NVIDIA合作部署神經(jīng)人工智能平臺(tái),加速企業(yè)人工智能應(yīng)用 Cognizant將在關(guān)鍵增長(zhǎng)領(lǐng)域提供解決方案,包括企業(yè)級(jí)AI智能體、定制化行業(yè)大型語(yǔ)言模型及搭載NVIDI
    的頭像 發(fā)表于 03-26 14:42 ?318次閱讀
    Cognizant將與<b class='flag-5'>NVIDIA</b>合作部署神經(jīng)人工智能平臺(tái),加速企業(yè)人工智能應(yīng)用

    Oracle 與 NVIDIA 合作助力企業(yè)加速代理式 AI 推理

    ——Oracle 和 NVIDIA 今日宣布,NVIDIA 加速計(jì)算和推理軟件與 Oracle 的 AI 基礎(chǔ)設(shè)施以及生成式 AI 服務(wù)首
    發(fā)表于 03-19 15:24 ?358次閱讀
    Oracle 與 <b class='flag-5'>NVIDIA</b> 合作助力企業(yè)加速代理式 <b class='flag-5'>AI</b> 推理

    無(wú)法在OVMS上運(yùn)行來(lái)自Meta的大型語(yǔ)言模型 (LLM),為什么?

    無(wú)法在 OVMS 上運(yùn)行來(lái)自 Meta 的大型語(yǔ)言模型 (LLM),例如 LLaMa2。 從 OVMS GitHub* 存儲(chǔ)庫(kù)運(yùn)行 llama_chat Python* Demo 時(shí)遇到錯(cuò)誤。
    發(fā)表于 03-05 08:07

    NVIDIA發(fā)布全新NIM AI Guardrail微服務(wù)

    NVIDIA近期推出了一項(xiàng)旨在保障代理式AI應(yīng)用安全性的重要技術(shù)——NIM AI Guardrail微服務(wù)。這一全新微服務(wù)是NVIDIA NeMo Guardrails
    的頭像 發(fā)表于 01-18 11:48 ?796次閱讀

    NVIDIA 發(fā)布保障代理式 AI 應(yīng)用安全的 NIM 微服務(wù)

    務(wù)是 NVIDIA NeMo Guardrails 軟件工具系列的一部分。這些可移植且經(jīng)過(guò)優(yōu)化的推理微服務(wù)可幫助企業(yè)提高生成式 AI 應(yīng)用的安全性、精準(zhǔn)性
    發(fā)表于 01-17 16:29 ?161次閱讀

    NVIDIA推出面向RTX AI PC的AI基礎(chǔ)模型

    NVIDIA 今日發(fā)布能在 NVIDIA RTX AI PC 本地運(yùn)行的基礎(chǔ)模型,為數(shù)字人、內(nèi)容創(chuàng)作、生產(chǎn)力和開(kāi)發(fā)提供強(qiáng)大助力。
    的頭像 發(fā)表于 01-08 11:01 ?552次閱讀

    NVIDIA TensorRT-LLM中啟用ReDrafter的一些變化

    Recurrent Drafting (簡(jiǎn)稱 ReDrafter) 是蘋(píng)果公司為大語(yǔ)言模型 (LLM) 推理開(kāi)發(fā)并開(kāi)源的一種新型推測(cè)解碼技術(shù),該技術(shù)現(xiàn)在可與 NVIDIA TensorRT-LLM 一起使用。
    的頭像 發(fā)表于 12-25 17:31 ?757次閱讀
    在<b class='flag-5'>NVIDIA</b> TensorRT-<b class='flag-5'>LLM</b>中啟用ReDrafter的一些變化

    解鎖NVIDIA TensorRT-LLM的卓越性能

    NVIDIA TensorRT-LLM 是一個(gè)專為優(yōu)化大語(yǔ)言模型 (LLM) 推理而設(shè)計(jì)的庫(kù)。它提供了多種先進(jìn)的優(yōu)化技術(shù),包括自定義 Attention Kernel、Inflight
    的頭像 發(fā)表于 12-17 17:47 ?876次閱讀

    NVIDIA TensorRT-LLM Roadmap現(xiàn)已在GitHub上公開(kāi)發(fā)布

    感謝眾多用戶及合作伙伴一直以來(lái)對(duì)NVIDIA TensorRT-LLM的支持。TensorRT-LLM 的 Roadmap 現(xiàn)已在 GitHub 上公開(kāi)發(fā)布!
    的頭像 發(fā)表于 11-28 10:43 ?723次閱讀
    <b class='flag-5'>NVIDIA</b> TensorRT-<b class='flag-5'>LLM</b> Roadmap現(xiàn)已在GitHub上公開(kāi)<b class='flag-5'>發(fā)布</b>

    NVIDIA助力Amdocs打造生成式AI智能體

    正在使用NVIDIA DGX Cloud 與 NVIDIA AI Enterprise軟件開(kāi)發(fā)和交付基于商用大語(yǔ)言模型(LLM)和領(lǐng)域適配
    的頭像 發(fā)表于 11-19 14:48 ?912次閱讀

    LLM技術(shù)對(duì)人工智能發(fā)展的影響

    隨著人工智能技術(shù)的飛速發(fā)展,大型語(yǔ)言模型(LLM)技術(shù)已經(jīng)成為推動(dòng)AI領(lǐng)域進(jìn)步的關(guān)鍵力量。LLM技術(shù)通過(guò)深度學(xué)習(xí)和自然語(yǔ)言處理技術(shù),使得機(jī)器能夠理解和生成自然語(yǔ)言,極大地?cái)U(kuò)展了人工智能
    的頭像 發(fā)表于 11-08 09:28 ?1857次閱讀

    魔搭社區(qū)借助NVIDIA TensorRT-LLM提升LLM推理效率

    “魔搭社區(qū)是中國(guó)最具影響力的模型開(kāi)源社區(qū),致力給開(kāi)發(fā)者提供模型即服務(wù)的體驗(yàn)。魔搭社區(qū)利用NVIDIA TensorRT-LLM,大大提高了大語(yǔ)言模型的推理性能,方便了模型應(yīng)用部署,提高了大模型產(chǎn)業(yè)應(yīng)用效率,更大規(guī)模地釋放大模型的應(yīng)用價(jià)值。”
    的頭像 發(fā)表于 08-23 15:48 ?1141次閱讀

    NVIDIA AI Foundry 為全球企業(yè)打造自定義 Llama 3.1 生成式 AI 模型

    借助 NVIDIA AI Foundry,企業(yè)和各國(guó)現(xiàn)在能夠使用自有數(shù)據(jù)與 Llama 3.1 405B 和 NVIDIA Nemotron 模型配對(duì),來(lái)構(gòu)建“超級(jí)模型” NVIDIA
    發(fā)表于 07-24 09:39 ?920次閱讀
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>AI</b> Foundry 為全球企業(yè)打造自定義 Llama 3.1 生成式 <b class='flag-5'>AI</b> 模型