案例簡(jiǎn)介

本案例中，Pantheon Lab（萬(wàn)想科技）專注于數(shù)字人技術(shù)解決方案，通過(guò) NVIDIA 技術(shù)實(shí)現(xiàn)數(shù)字人實(shí)時(shí)對(duì)話與客戶互動(dòng)交流。借助 NVIDIA GPU、NVIDIA TensorRT、NVIDIA Triton，Pantheon Lab 訓(xùn)練速度提高 10 倍、推理延遲降低 50%，以及用戶參與度提升 30%。這些進(jìn)步使對(duì)話式 AI 能夠提供實(shí)時(shí)且真實(shí)的互動(dòng)，使 Pantheon Lab 在數(shù)字人技術(shù)不斷革新。

本案例主要應(yīng)用到NVIDIA GPU、NVIDIA TensorRT、NVIDIA Triton。

利用 NVIDIA 技術(shù)

打造高效數(shù)字人交互解決方案

Pantheon Lab 利用 NVIDIA 的先進(jìn)基礎(chǔ)設(shè)施，為企業(yè)提供高質(zhì)量的實(shí)時(shí)數(shù)字人交互解決方案。該數(shù)字人解決方案滿足公共客戶服務(wù)、教育和數(shù)字營(yíng)銷等多種應(yīng)用場(chǎng)景，顯著增強(qiáng)用戶參與度和互動(dòng)，提高客戶體驗(yàn)和運(yùn)營(yíng)效率。

開(kāi)發(fā)數(shù)字人交互解決方案

面臨的挑戰(zhàn)

在開(kāi)發(fā)數(shù)字人交互解決方案時(shí)，Pantheon Lab 面臨著幾個(gè)關(guān)鍵挑戰(zhàn)。

第一、對(duì)話中的即時(shí)反饋，包括視覺(jué)和上下文反饋，以確保用戶參與和交互的自然流暢至關(guān)重要。這一需求需要高性能計(jì)算資源，從而能無(wú)延遲地處理復(fù)雜的深度學(xué)習(xí)模型和支撐聊天機(jī)器人的算法訓(xùn)練。

第二、隨著對(duì)聊天機(jī)器人的需求增長(zhǎng)，擴(kuò)展性成為一個(gè)關(guān)鍵問(wèn)題。Pantheon Lab 不僅需要確保其模型在性能不變的情況下處理用戶互動(dòng)的增量，還需要實(shí)現(xiàn)語(yǔ)言理解和生成的高準(zhǔn)確性，任何不準(zhǔn)確性都可能導(dǎo)致誤解和負(fù)面的用戶體驗(yàn)。

第三、復(fù)雜的工作負(fù)載，如集成現(xiàn)有頭像互動(dòng)等高級(jí)功能需要強(qiáng)大的基礎(chǔ)算力，快速發(fā)展的行業(yè)環(huán)境對(duì)產(chǎn)品上市時(shí)間要求高，促使 Pantheon Lab 需要迅速交付新功能和改進(jìn)，以保持競(jìng)爭(zhēng)優(yōu)勢(shì)。

NVIDIA 技術(shù)助力

Pantheon Lab 數(shù)字人交互解決方案

為了解決這些挑戰(zhàn)，Pantheon Lab 采用了一系列的 NVIDIA 技術(shù)：

通過(guò)部署 NVIDIA 高性能算力 GPU，實(shí)現(xiàn)了 10 倍的訓(xùn)練速度提升，促進(jìn)了模型的快速開(kāi)發(fā)和迭代，同時(shí)，加速了新功能和優(yōu)化了部署，在邊緣環(huán)境中 NVIDIA GPU 幫助整體運(yùn)營(yíng)成本降低 80%。

NVIDIA TensorRT 的部署，優(yōu)化了模型推理，使實(shí)時(shí)交互中的延遲減少 50%。這一增強(qiáng)使用戶能夠更快地收到響應(yīng)，提高了整體用戶體驗(yàn)。

部署 NVIDIA Triton 推理服務(wù)器，使 Pantheon Lab 能夠同時(shí)服務(wù)多個(gè)模型，并進(jìn)行動(dòng)態(tài)批處理。這一能力使吞吐量增加 60%，允許更多的用戶互動(dòng)而不影響性能。

NVIDIA 賦能Pantheon Lab

打造高效友好的數(shù)字人體驗(yàn)

NVIDIA 技術(shù)賦能顯著提升了 Pantheon Lab 的運(yùn)營(yíng)效率，降低了企業(yè)運(yùn)營(yíng)成本，使數(shù)字人解決方案能夠提供無(wú)縫、實(shí)時(shí)的對(duì)話體驗(yàn)，展示出互動(dòng)流暢對(duì)話高效的數(shù)字人界面。Pantheon Lab 致力于提供全棧的實(shí)時(shí)交互對(duì)話的數(shù)字人解決方案，為企業(yè)運(yùn)營(yíng)發(fā)展需求提供高效的客服助手，重新定義用戶體驗(yàn)。

萬(wàn)想科技的聯(lián)合創(chuàng)始人兼 CEO 劉劍鋒表示：“在 NVIDIA 的賦能下我們的產(chǎn)品能夠在邊緣設(shè)備上實(shí)現(xiàn)實(shí)時(shí)且高精度的數(shù)字人重建，增強(qiáng)了人機(jī)互動(dòng)的真實(shí)感和降低了延遲。同時(shí)，NVIDIA 的硬件加速和云渲染技術(shù)進(jìn)一步提升了我們產(chǎn)品的擴(kuò)展性。得益于這些技術(shù)優(yōu)勢(shì)，我們的數(shù)字人解決方案不僅更加經(jīng)濟(jì)可靠，用戶體驗(yàn)也更為友好，應(yīng)用范圍更為廣泛。”

NVIDIA 初創(chuàng)加速計(jì)劃

NVIDIA 初創(chuàng)加速計(jì)劃 (NVIDIA Inception)為免費(fèi)會(huì)員制，旨在培養(yǎng)顛覆行業(yè)格局的優(yōu)秀創(chuàng)業(yè)公司。該計(jì)劃聯(lián)合國(guó)內(nèi)外知名的風(fēng)投機(jī)構(gòu)、創(chuàng)業(yè)孵化器、創(chuàng)業(yè)加速器、行業(yè)合作伙伴以及科技創(chuàng)業(yè)媒體等，打造創(chuàng)業(yè)加速生態(tài)系統(tǒng)。能夠提供產(chǎn)品折扣、技術(shù)支持、市場(chǎng)宣傳、融資對(duì)接、業(yè)務(wù)推薦等一系列服務(wù)，加速創(chuàng)業(yè)公司的發(fā)展。