從客戶支持到實時轉(zhuǎn)錄，全新應(yīng)用框架助力構(gòu)建實現(xiàn)各類定制化語言型AI服務(wù)

加利福尼亞州圣克拉拉市 - GTC 2020大會 - 2020年5月14日 – NVIDIA于今日發(fā)布推出GPU加速的應(yīng)用框架——NVIDIA Jarvis。該框架使企業(yè)能夠根據(jù)自身所處行業(yè)、產(chǎn)品和客戶的特點，使用視頻和語音數(shù)據(jù)構(gòu)建最為先進(jìn)的定制化對話式AI服務(wù)。

隨著居家辦公、遠(yuǎn)程醫(yī)療和遠(yuǎn)程學(xué)習(xí)的快速興起，對于能夠保持人們工作效率和聯(lián)系的客戶支持、實時轉(zhuǎn)錄、視頻通話摘要等定制化語言型AI服務(wù)的需求也隨之激增。

首批采用Jarvis為客戶提供對話式AI產(chǎn)品和服務(wù)的公司包括Voca、Kensho和Square。Voca是一家為呼叫中心提供AI代理的公司；Kensho致力于為金融和商務(wù)行業(yè)提供自動語音轉(zhuǎn)錄服務(wù)；此外，還有Square，其開發(fā)了虛擬預(yù)約助理。

NVIDIA創(chuàng)始人兼首席執(zhí)行官黃仁勛表示：“隨著應(yīng)用程序具備了通過感知細(xì)微差別和上下文來理解和交流的能力，對話式AI將成為未來許多行業(yè)的關(guān)鍵核心。NVIDIA Jarvis能夠幫助醫(yī)療、金融服務(wù)、教育和零售行業(yè)以快速和準(zhǔn)確的方式為他們的客戶提供自動化的支持服務(wù)?！?/p>

基于Jarvis構(gòu)建的應(yīng)用程序可以應(yīng)用全新NVIDIA A100 Tensor Core GPU中的各項創(chuàng)新技術(shù)進(jìn)行AI計算，并使用NVIDIA TensorRT?的最新優(yōu)化進(jìn)行推理?，F(xiàn)在，使用最強(qiáng)大的視覺和語音模型運行整個多模態(tài)應(yīng)用已成為可能，而且其速度比實時交互所需的300毫秒閾值還要快。

Jarvis提供了一整套GPU加速軟件堆棧和工具，使開發(fā)者能夠輕松地創(chuàng)建、部署和運行端到端的實時AI應(yīng)用程序，并且能夠準(zhǔn)確理解各企業(yè)及其客戶溝通時所用的各種專業(yè)術(shù)語。

IDC AI軟件平臺研究總監(jiān)David Schubmehl表示：“ 根據(jù)IDC的統(tǒng)計，對話式AI市場持續(xù)保持著快速增長的速度，這主要是因為各大小規(guī)模的企業(yè)機(jī)構(gòu)都已開始意識到，使用經(jīng)過訓(xùn)練的虛擬助手和聊天機(jī)器人能夠幫助他們?yōu)榭蛻籼峁┓?wù)，拓展業(yè)務(wù)價值。IDC預(yù)計，全球范圍內(nèi)，自動客戶服務(wù)代理和數(shù)字助理等對話式AI用例的支出投入將從2019年的58億美元增長至2023年的138億美元，復(fù)合年增長率將達(dá)24%?！?/p>

為了能夠為客戶提供個性化的交互式體驗，企業(yè)需要使用針對自身產(chǎn)品和客戶需求的數(shù)據(jù)訓(xùn)練其語言型應(yīng)用。但從頭開始構(gòu)建一項服務(wù)需要深厚的AI專業(yè)知識、大量數(shù)據(jù)和計算資源來訓(xùn)練模型，以及能夠使用新數(shù)據(jù)對模型進(jìn)行定期更新的軟件。

Jarvis通過為對話式AI提供端到端的深度學(xué)習(xí)方案來解決這些難題。該產(chǎn)品包括先進(jìn)的深度學(xué)習(xí)模型，例如用于自然語言理解的NVIDIA Megatron BERT等。企業(yè)可以使用NVIDIA NeMo，基于他們自己的數(shù)據(jù)對這些模型進(jìn)行進(jìn)一步的微調(diào)，使用TensorRT進(jìn)行推理優(yōu)化，并且使用NGC（NVIDIA GPU優(yōu)化的軟件目錄）上的Helm圖表在云和邊緣進(jìn)行部署。

早期采用者— Voca，Kensho和 Square

全球各地的公司都在使用NVIDIA的對話式AI平臺改進(jìn)自身的服務(wù)。

Voca是東芝、美國電話電報公司（AT&T）和其他多家全球領(lǐng)先的公司的AI虛擬代理公司，其依靠NVIDIA實現(xiàn)了速度更快、互動性更強(qiáng)的類人交互。Voca利用AI技術(shù)來理解客戶在口頭交流和講話時所要表達(dá)的全部意圖，這使得其AI虛擬代理可以自動識別不同的語調(diào)和語音線索，從而辨別出客戶所說的內(nèi)容，以及其想要表達(dá)的意思。此外，這些代理利用NVIDIA AI平臺內(nèi)置的可擴(kuò)展性功能，大大縮短了客戶的等待時間。

Voca公司聯(lián)合創(chuàng)始人兼首席技術(shù)官Alan Bekker表示：“低延遲對于呼叫中心至關(guān)重要。憑借NVIDIA GPU，我們的代理能夠在一秒內(nèi)完成收聽、理解并作出最準(zhǔn)確的響應(yīng)?，F(xiàn)在，我們的虛擬代理能夠成功處理70-80%的呼叫，其中包括一般性的客戶服務(wù)請求、付款交易和技術(shù)支持等。”

位于馬薩諸塞州劍橋市的S&P Global創(chuàng)新中心Kensho部署了可擴(kuò)展的機(jī)器學(xué)習(xí)和分析系統(tǒng)，其已使用NVIDIA的對話式AI開發(fā)了針對金融行業(yè)和商業(yè)的Scribe語音識別解決方案。借助于NVIDIA的解決方案，Scribe在處理財報會議和類似財務(wù)音頻方面的準(zhǔn)確度，相較于其它的商業(yè)解決方案高出了20%。

Kensho AI研究主管Georg Kucsko表示：“我們正在與NVIDIA展開密切的合作，使用深度學(xué)習(xí)技術(shù)進(jìn)一步推進(jìn)端到端自動語音識別技術(shù)的發(fā)展。與不使用AI的傳統(tǒng)方法相比，使用NVIDIA的解決方案訓(xùn)練新模型時，其在轉(zhuǎn)錄金融行業(yè)專業(yè)術(shù)語時的準(zhǔn)確度得到了明顯提高，這讓我們無需幾天的時間，只需幾分鐘就能向我們的客戶提供及時信息?！?/p>

Square開發(fā)了一個AI虛擬助手，利用 AI技術(shù)，它能夠幫助Square的銷售人員們自動確認(rèn)、取消或更改與客戶的約會，并讓他們能夠自由地安排日程，與更具戰(zhàn)略性的客戶接洽。

Square公司的對話式AI主管Gabor Angeli表示：“Square助手可以理解75%的客戶提出的問題，并為他們提供幫助。同時能確保將大家的參會率提升10%。通過GPU，我們能夠以10倍于CPU的速度訓(xùn)練模型，以提供更準(zhǔn)確、更人性化的交互，并最終幫助客戶發(fā)展業(yè)務(wù)。”

供應(yīng)情況

現(xiàn)在您可申請參加NVIDIA Jarvis搶先體驗活動。