一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

NVIDIA NIM使構建印地語AI應用變得輕而易舉

NVIDIA英偉達企業(yè)解決方案 ? 來源:NVIDIA英偉達企業(yè)解決方案 ? 2024-10-30 11:33 ? 次閱讀

印度人打招呼的方式遠不止 Namaste、Vanakkam 和 Sat sri akaal 這三種。印度有 22 種憲法認可的語言,而根據印度人口普查記錄,該國還有 1500 多種語言。英語是互聯(lián)網上最常用的語言,而會說英語的印度居民只占到印度總人口的 10% 左右。

作為世界上人口最多的國家,印度正在快速推進數(shù)字化進程。印度企業(yè)和當?shù)爻鮿?chuàng)公司正在開發(fā)多語種 AI 模型,讓更多印度人能夠用自己的母語進行技術互動。這是主權 AI 的典型案例之一,主權 AI 指的是開發(fā)基于本地數(shù)據集,并且能夠反映某地區(qū)特定方言、文化和習俗的本國 AI 基礎設施。

這些項目正在構建各種印度語言和英語的語言模型,驅動企業(yè)的客服 AI 智能體、快速翻譯內容以便更多人獲取信息,并使服務更易覆蓋超過 14 億的多元化人口。

為了支持這些舉措,NVIDIA 為印地語這一印度最流行且使用者超過五億的語言推出了一個小語言模型。該模型被命名為Nemotron-4-Mini-Hindi-4B,現(xiàn)已作為一項NVIDIA NIM微服務提供,可輕松部署在任何 NVIDIA GPU 加速系統(tǒng)上用于優(yōu)化性能。

印度 IT 服務和咨詢公司 Tech Mahindra 是首家使用 Nemotron Hindi NIM 微服務開發(fā) AI 模型的公司。模型被命名為 Indus 2.0,主要針對印地語及其數(shù)十種方言。Indus 2.0 利用 Tech Mahindra 的高質量微調數(shù)據進一步提高模型的準確性,使銀行、教育、醫(yī)療及其他行業(yè)的客戶能夠提供本地化服務。

Tech Mahindra 在 10 月 23 日至 25 日于孟買舉行的 NVIDIA AI Summit 上展示了 Indus 2.0。該公司還使用NVIDIA NeMo開發(fā)了其主權大語言模型(LLM)平臺 TeNo。

NVIDIA NIM 使構建

印地語 AI 應用變得輕而易舉

Nemotron Hindi 模型擁有 40 億個參數(shù),源自 NVIDIA 開發(fā)的一個 150 億參數(shù)多語種語言模型——Nemotron-4 15B。該模型由 NVIDIA NeMo(一個用于開發(fā)生成式 AI 的端到端云原生框架和微服務套件)使用真實印地語數(shù)據、合成印地語數(shù)據和等量英語數(shù)據所組成的數(shù)據集剪枝、蒸餾和訓練而成。

這個數(shù)據集由NVIDIA NeMo Curator創(chuàng)建。NeMo Curator 通過大規(guī)模處理用于訓練和定制的高質量多模態(tài)數(shù)據,提高了生成式 AI 模型的準確性。它還使用NVIDIA RAPIDS庫來加速多節(jié)點 GPU 系統(tǒng)上的數(shù)據處理管線,從而減少處理時間和總體擁有成本。NeMo Curator 還提供處理高質量數(shù)據所需的合成數(shù)據生成、數(shù)據過濾、分類和數(shù)據去重預建管線與構建模塊。

在使用 NeMo 進行微調后,最終模型在多項針對 80 億參數(shù)以下 AI 模型的準確性基準測試中處于領先地位。該模型被打包成一項 NIM 微服務,可輕松用于支持教育、零售、醫(yī)療等行業(yè)的用例。

其可作為NVIDIA AI Enterprise軟件平臺的一部分獲取。該軟件平臺為企業(yè)提供技術支持、企業(yè)級安全等額外資源,幫助企業(yè)簡化生產環(huán)境中的 AI 開發(fā)。

多家企業(yè)為印度的多語種人口提供服務

印度各地的創(chuàng)新公司、大型企業(yè)和全球系統(tǒng)集成商都在使用 NVIDIA NeMo 構建定制語言模型。

NVIDIA 初創(chuàng)加速計劃會員公司正在使用 NeMo 開發(fā)多種印度語言的 AI 模型。該計劃的會員均為前沿初創(chuàng)公司。

Sarvam AI 為企業(yè)客戶提供語音轉文本、文本轉語音、翻譯和數(shù)據解析模型。該公司開發(fā)的 Sarvam 1 是印度首個本土多語種 LLM。該模型是完全在搭載 NVIDIA Tensor Core GPU 的印度本國 AI 基礎設施上訓練而成的。

Sarvam 1 在開發(fā)過程中使用了包括 NeMo Curator 和 NeMo 框架在內的 NVIDIA AI Enterprise 軟件,支持英語及 10 種主要印度語言,包括孟加拉語、馬拉地語、泰米爾語和泰盧固語。

Sarvam AI 還使用 NVIDIA NIM 微服務、適用于對話式 AI 的NVIDIA Riva、NVIDIA TensorRT-LLM軟件和NVIDIA Triton 推理服務器來優(yōu)化和部署具有亞秒級延遲的對話式 AI 智能體。

另一家初創(chuàng)加速計劃會員公司 Gnani.ai 構建了一個多語種語音轉語音的大語言模型,為 AI 客服助手提供支持,該助手每天為印度和美國的 150 多家銀行、保險和金融服務公司處理約 1000 萬次實時語音交互。該模型使用 NVIDIA Hopper GPU 和 NeMo 框架,基于超過 1400 萬小時的對話語音數(shù)據訓練而成,支持 14 種語言。

Gnani.ai 使用 TensorRT-LLM、Triton 推理服務器和 Riva NIM 微服務來優(yōu)化其虛擬客戶服務助手 AI 和語音分析 AI。

使用 NeMo 構建 LLM 的大型企業(yè)包括:

沃爾瑪控股的印度大型電商公司 Flipkart 正在通過集成NeMo Guardrails(一個使開發(fā)者能夠為 LLM 添加可編程護欄的開源工具套件),以提高其對話式 AI 系統(tǒng)的安全性。

Ola Group 擁有印度最大的網約車平臺之一。該集團旗下的企業(yè) Krutrim 正在使用 Mistral NeMo 12B 開發(fā)多語種印度語系基礎模型。Mistral NeMo 12B是一個極其先進的 LLM,由 Mistral AI 和 NVIDIA 共同開發(fā)而成。

總部位于欽奈的全球技術公司 Zoho Corporation 將使用 NVIDIA TensorRT-LLM 和 NVIDIA Triton 推理服務器為其 70 多萬客戶優(yōu)化和提供語言模型。該公司將使用在 NVIDIA Hopper GPU 上運行的 NeMo 為 100 多個商業(yè)應用從頭開始預訓練窄模型、小模型、中模型和大模型。

印度的各大全球系統(tǒng)集成商也在為其客戶提供由 NVIDIA NeMo 加速的解決方案。

Infosys 將利用 NVIDIA AI 堆棧開發(fā)特定工具和解決方案。該公司的卓越中心還在開發(fā)由 AI 驅動的小型語言模型,這些模型將作為服務提供給客戶。

Tata Consultancy Services 基于NVIDIA NIM Agent Blueprint為電信、零售、制造、汽車和金融服務行業(yè)開發(fā)了 AI 解決方案。該公司提供的產品包括 NeMo 驅動的特定領域語言模型。這些模型經過定制后,能夠處理客戶查詢,并回答 IT、人事或現(xiàn)場操作等各個企業(yè)部門員工提出的針對本企業(yè)的問題。

Wipro 正在使用包括 NIM Agent Blueprint 和 NeMo 在內的 NVIDIA AI Enterprise 軟件,來幫助企業(yè)輕松開發(fā)定制對話式 AI 解決方案,例如支持客戶服務互動的數(shù)字人等。

Wipro 和 TCS 還使用 NeMo Curator 的合成數(shù)據生成管線生成英語以外的其他語言的數(shù)據,以便為客戶定制 LLM。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • NVIDIA
    +關注

    關注

    14

    文章

    5193

    瀏覽量

    105480
  • AI
    AI
    +關注

    關注

    87

    文章

    33628

    瀏覽量

    274343
  • 模型
    +關注

    關注

    1

    文章

    3469

    瀏覽量

    49845
  • 語言模型
    +關注

    關注

    0

    文章

    558

    瀏覽量

    10609

原文標題:印度企業(yè)使用通過 NVIDIA AI 構建的 LLM 為十多億當?shù)卣Z言使用者提供服務

文章出處:【微信號:NVIDIA-Enterprise,微信公眾號:NVIDIA英偉達企業(yè)解決方案】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦
    熱點推薦

    NVIDIA NeMo Guardrails引入三項全新NIM微服務

    NVIDIA NeMo Guardrails 包含全新 NVIDIA NIM 微服務,能夠為各行業(yè)構建 AI 的企業(yè)提高
    的頭像 發(fā)表于 01-18 09:39 ?527次閱讀

    NVIDIA 發(fā)布保障代理式 AI 應用安全的 NIM 微服務

    NVIDIA NeMo Guardrails 包含全新 NVIDIA NIM 微服務,能夠為各行業(yè)構建 AI 的企業(yè)提高
    發(fā)表于 01-17 16:29 ?129次閱讀

    NVIDIA推出適用于網絡安全的NIM Blueprint

    德勤使用適用于容器安全的 NVIDIA NIM Agent Blueprint 幫助企業(yè)利用開源軟件構建安全的 AI。
    的頭像 發(fā)表于 11-20 09:58 ?526次閱讀

    NVIDIA助力企業(yè)創(chuàng)建定制AI應用

    NVIDIA 近日宣布與眾多技術領導者一同使用最新NVIDIA NIM Agent Blueprint以及NVIDIA NeMo和NVIDIA
    的頭像 發(fā)表于 11-20 09:12 ?605次閱讀

    日本企業(yè)借助NVIDIA產品加速AI創(chuàng)新

    日本領先企業(yè)和大學正在使用 NVIDIA NeMo、NIM 微服務和 NVIDIA Isaac 加速 AI 創(chuàng)新。
    的頭像 發(fā)表于 11-19 14:34 ?731次閱讀

    NVIDIA NIM助力企業(yè)高效部署生成式AI模型

    Canonical、Nutanix 和 Red Hat 等廠商的開源 Kubernetes 平臺集成了 NVIDIA NIM,將允許用戶通過 API 調用來大規(guī)模地部署大語言模型。
    的頭像 發(fā)表于 10-10 09:49 ?621次閱讀

    NVIDIA 攜手全球合作伙伴推出 NIM Agent Blueprints,助力企業(yè)打造屬于自己的 AI

    NVIDIA AI Enterprise 平臺中的 NIM 微服務與 NeMo 框架構建和運行他們的 AI 應用,創(chuàng)建數(shù)據驅動型
    發(fā)表于 08-28 10:10 ?310次閱讀
    <b class='flag-5'>NVIDIA</b> 攜手全球合作伙伴推出 <b class='flag-5'>NIM</b> Agent Blueprints,助力企業(yè)打造屬于自己的 <b class='flag-5'>AI</b>

    借助NVIDIA NIM加速AI應用部署

    大語言模型(LLM)在企業(yè)組織中的應用日益廣泛,許多企業(yè)都將其整合到 AI 應用中。雖然從基礎模型著手十分高效,但需要花費一定的精力才能將它們整合到生產就緒型環(huán)境中。NVIDIA NIM簡化了這一過程,
    的頭像 發(fā)表于 08-23 16:38 ?622次閱讀
    借助<b class='flag-5'>NVIDIA</b> <b class='flag-5'>NIM</b>加速<b class='flag-5'>AI</b>應用部署

    NVIDIA NIM微服務帶來巨大優(yōu)勢

    新服務通過熱門 AI 模型為數(shù)百萬開發(fā)者帶來高達 5 倍的 token 效率提升,使他們能夠立即訪問在 NVIDIA DGX Cloud 上運行的 NIM 微服務。
    的頭像 發(fā)表于 08-23 15:20 ?798次閱讀

    全新NVIDIA NIM微服務將生成式AI引入數(shù)字環(huán)境

    生成式物理 AI NIM 微服務以及 NVIDIA Metropolis 參考工作流旨在協(xié)助創(chuàng)建智能的沉浸式工作環(huán)境。
    的頭像 發(fā)表于 08-02 15:20 ?776次閱讀

    采用OpenUSD和NVIDIA NIM微服務創(chuàng)建精準品牌視覺

    全球領先的創(chuàng)意和制作服務機構率先采用 OpenUSD 和 NVIDIA NIM 微服務來創(chuàng)建精準的品牌視覺。
    的頭像 發(fā)表于 08-01 14:33 ?624次閱讀

    NVIDIA NIM:打造AI領域的AI-in-a-Box,提高AI開發(fā)與部署的高效性

    據7月30日官方發(fā)布的資訊顯示,在全球備受矚目的計算機圖形學盛會——SIGGRAPH 2024上,NVIDIA公司對外展示了其在諸如渲染、仿真及生成式AI等前沿領域所取得的卓越成果,而其中最為引人注目的便是NVIDIA
    的頭像 發(fā)表于 07-30 16:27 ?948次閱讀

    英偉達推出全新NVIDIA AI Foundry服務和NVIDIA NIM推理微服務

    NVIDIA 宣布推出全新 NVIDIA AI Foundry 服務和 NVIDIA NIM 推理微服務,與同樣剛推出的 Llama 3.1
    的頭像 發(fā)表于 07-25 09:48 ?935次閱讀

    英偉達推出AI模型推理服務NVIDIA NIM

    英偉達近日宣布推出一項革命性的AI模型推理服務——NVIDIA NIM。這項服務將極大地簡化AI模型部署過程,為全球的2800萬英偉達開發(fā)者提供前所未有的便利。
    的頭像 發(fā)表于 06-04 09:15 ?874次閱讀

    NVIDIA NIM 革命性地改變模型部署,將全球數(shù)百萬開發(fā)者轉變?yōu)樯墒?AI 開發(fā)者

    部署在云、數(shù)據中心或工作站上。借助 NVIDIA NIM,開發(fā)者能夠輕松地為 copilots、聊天機器人等構建生成式 AI 應用,所需時間從
    發(fā)表于 06-03 09:12 ?335次閱讀
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>NIM</b> 革命性地改變模型部署,將全球數(shù)百萬開發(fā)者轉變?yōu)樯墒?<b class='flag-5'>AI</b> 開發(fā)者