導(dǎo)讀：根據(jù)新聲發(fā)布的市場調(diào)查數(shù)據(jù)， 2022 至 2027 年期間中國智能客服市場將持續(xù)處于增長態(tài)勢。2023 年，中國智能客服整體市場規(guī)模已經(jīng)達(dá)到 39.4 億元，預(yù)計(jì)到 2027 年這一市場將來到 90.7 億元，其間年復(fù)合增長率達(dá)到 22.6%。

市場持續(xù)高速增長的背后驅(qū)動(dòng)力在于，各行業(yè)正普遍面對(duì)著客戶服務(wù)工作的一系列挑戰(zhàn)。對(duì)智能客服能力的高強(qiáng)度需求，已經(jīng)不僅局限于電商、金融、消費(fèi)零售等領(lǐng)域，而且已開始向健康醫(yī)療等廣大行業(yè)外溢。

如何低成本、高效率搭建智能客服體系，并將智能客服系統(tǒng)與本行業(yè)的特殊性、企業(yè)/機(jī)構(gòu)自身的投資回報(bào)需求相結(jié)合，已經(jīng)成為千行百業(yè)所共同面對(duì)的問題。

在本文中，我們可以了解 AI 技術(shù)在多個(gè)行業(yè)客戶服務(wù)領(lǐng)域的落地，解答“ AI 給客戶服務(wù)帶來哪些好處”“如何搭建高效的客服 AI ”“客服 AI 的投資回報(bào)率是多少”等問題。

作為全球AI計(jì)算的領(lǐng)導(dǎo)者，NVIDIA（英偉達(dá)）打造的一系列與行業(yè)需求緊密結(jié)合的軟硬件全棧 AI 方案，涉及 AI 推理、對(duì)話式 AI 、生成式 AI 等多個(gè)領(lǐng)域，覆蓋醫(yī)療、電信、金融、零售、能源等多個(gè)行業(yè)。這些方案已經(jīng)在全球得到了廣泛應(yīng)用，其兼具前沿性與實(shí)用性的全球應(yīng)用案例對(duì)國內(nèi)各行各業(yè)借助 AI 技術(shù)實(shí)現(xiàn)產(chǎn)業(yè)升級(jí)有著很強(qiáng)的借鑒和參考價(jià)值。相信不管你身處何種行業(yè)與領(lǐng)域，都能從中有所啟發(fā)。

如今，各行各業(yè)的客戶服務(wù)部門都面臨著呼叫量增加、客服人員流失率高、人才短缺以及客戶期望不斷變化等挑戰(zhàn)。

客戶希望既能有自助選項(xiàng)，也有人工客服提供實(shí)時(shí)支持。這種對(duì)無縫、個(gè)性化體驗(yàn)的期望，延伸到了各種數(shù)字通信渠道，包括即時(shí)聊天、短信交流和社交媒體等。

盡管各種數(shù)字渠道越來越多，但許多消費(fèi)者仍喜歡通過打電話尋求支持，這給呼叫中心帶來了壓力。在企業(yè)全力提高客戶互動(dòng)質(zhì)量的同時(shí)，運(yùn)營效率和成本仍然是需要考慮的一個(gè)重要問題。

為了應(yīng)對(duì)這些挑戰(zhàn)，企業(yè)正在部署 AI 驅(qū)動(dòng)的客服軟件，以提高客服專員的工作效率，實(shí)現(xiàn)客戶互動(dòng)的自動(dòng)化，并獲取能夠優(yōu)化運(yùn)營的洞察。

幾乎在每一個(gè)行業(yè)，AI 系統(tǒng)都能夠幫助提高服務(wù)質(zhì)量和客戶滿意度。例如，零售商正在使用對(duì)話式 AI 幫助管理全渠道客戶請(qǐng)求；電信運(yùn)營商正在加強(qiáng)網(wǎng)絡(luò)故障排除能力；金融機(jī)構(gòu)正在實(shí)現(xiàn)日常銀行業(yè)務(wù)的自動(dòng)化；醫(yī)療機(jī)構(gòu)正在加強(qiáng)自身的患者護(hù)理能力。

在戰(zhàn)略層面部署 AI，企業(yè)可以通過直觀的問題解決方案深入改變與客戶的互動(dòng)方式，從而提高運(yùn)營效率，提升客戶滿意度。

通過利用來自客服支持互動(dòng)、常見問題文檔和其他企業(yè)資源的客戶數(shù)據(jù)，企業(yè)能夠開發(fā)出基于他們組織的獨(dú)有的集體知識(shí)和經(jīng)驗(yàn)的 AI 工具，來提供個(gè)性化服務(wù)、產(chǎn)品建議和主動(dòng)支持。

大語言模型（LLM）等可定制的開源生成式 AI 技術(shù)，結(jié)合自然語言處理（NLP）和檢索增強(qiáng)生成（RAG），正在幫助各行各業(yè)加快推出針對(duì)特定用途的客服 AI。根據(jù)麥肯錫的數(shù)據(jù)，80% 以上的客戶服務(wù)主管已經(jīng)在或計(jì)劃在不久后投資 AI。

借助具有高性價(jià)比的定制 AI 解決方案，企業(yè)正在實(shí)現(xiàn)服務(wù)臺(tái)客服工單的自動(dòng)化管理，創(chuàng)建更加有效的自助服務(wù)工具，并通過 AI 助手為客服專員提供支持。這可以顯著降低運(yùn)營成本和改善客戶體驗(yàn)。

為了實(shí)現(xiàn)令人滿意的實(shí)時(shí)互動(dòng)，AI 驅(qū)動(dòng)的客服軟件必須作出準(zhǔn)確、快速且相關(guān)的回答。以下是實(shí)現(xiàn)這一目標(biāo)的一些訣竅：

開源基礎(chǔ)模型

一些開源基礎(chǔ)模型可加速 AI 的開發(fā)。開發(fā)人員可以靈活地調(diào)整和增強(qiáng)這些預(yù)訓(xùn)練機(jī)器學(xué)習(xí)模型，企業(yè)也可以使用它們啟動(dòng)其 AI 項(xiàng)目，且無需耗費(fèi)從頭開始構(gòu)建模型所產(chǎn)生的高昂成本。

RAG

RAG框架將基礎(chǔ)或通用 LLM 連接到專有知識(shí)庫和數(shù)據(jù)源，包括庫存管理、客戶關(guān)系管理系統(tǒng)和客戶服務(wù)協(xié)議。將 RAG 集成到對(duì)話式聊天機(jī)器人、AI 助理和智能助手，就可以根據(jù)客戶詢問具體內(nèi)容的上下文定制回答。

“人在回路（human-in-the-loop）”流程

“人在回路（human-in-the-loop）”流程對(duì)AI訓(xùn)練和實(shí)時(shí)部署始終至關(guān)重要。在對(duì)基礎(chǔ)模型或 LLM 進(jìn)行初步訓(xùn)練后，人工審核員應(yīng)判斷AI的回答并提供糾正反饋。這有助于防止出現(xiàn)錯(cuò)覺（即模型生成錯(cuò)誤或誤導(dǎo)性的信息）等問題，以及避免其他錯(cuò)誤，例如有害或偏離主題的回答等。這類人工參與可確保在開發(fā) AI 的過程中充分考慮到公平性、準(zhǔn)確性與安全性。

而人工的參與對(duì)于部署到生產(chǎn)中的AI更為重要。當(dāng) AI 無法充分解決客戶問題時(shí)，程序必須能夠?qū)⒑艚修D(zhuǎn)接給客服團(tuán)隊(duì)。AI 與人工座席之間的這種合作方式保證了客戶互動(dòng)兼具高效和同理心。

客服AI的投資回報(bào)率（ROI）應(yīng)主要根據(jù)效率的提高和成本的降低予以衡量。為了量化 ROI，企業(yè)可以評(píng)估一些關(guān)鍵指標(biāo)，例如響應(yīng)時(shí)間的縮短、聯(lián)絡(luò)中心運(yùn)營成本的降低、客戶滿意度的提高以及AI增強(qiáng)的服務(wù)所帶來的收入增長等。

例如，使用開源模型實(shí)現(xiàn) AI 聊天機(jī)器人的成本，可以將與通過傳統(tǒng)呼叫中心解決客戶詢問所產(chǎn)生的費(fèi)用進(jìn)行比較。建立這項(xiàng)基準(zhǔn)有助于評(píng)估部署 AI 對(duì)客服業(yè)務(wù)的財(cái)務(wù)影響。

為了在擴(kuò)大 AI 部署規(guī)模之前更深入地了解該項(xiàng)投資的 ROI，企業(yè)可以考慮試行一段時(shí)間。例如，在 1 至 2 個(gè)季度內(nèi)將 20% 的呼叫中心流量轉(zhuǎn)接到 AI 解決方案，并密切監(jiān)控結(jié)果，這樣企業(yè)就能獲得具體的效率提升和成本節(jié)約數(shù)據(jù)。該方法有助于證明 ROI，并為進(jìn)一步的投資提供決策依據(jù)。

各行各業(yè)的企業(yè)都在將 AI 應(yīng)用于客戶服務(wù)，并衡量其成功與否。

零售商減輕呼叫中心負(fù)擔(dān)

無論在實(shí)體店內(nèi)還是電商網(wǎng)站上，當(dāng)今的購物者都希望能獲得流暢、高效的個(gè)性化購物體驗(yàn)。各年齡層的客戶仍然會(huì)優(yōu)先選擇實(shí)時(shí)人工服務(wù)，但同時(shí)也希望能夠選擇使用不同的渠道。但來自不同客戶群的復(fù)雜客戶問題，可能會(huì)使客服專員難以快速理解和解決收到的請(qǐng)求。

為了應(yīng)對(duì)這些挑戰(zhàn)，許多零售商正在轉(zhuǎn)向使用對(duì)話式 AI 和基于 AI 的呼叫轉(zhuǎn)接。根據(jù) NVIDIA 發(fā)布的零售與快速消費(fèi)品行業(yè) AI 現(xiàn)狀：2024 年趨勢調(diào)研報(bào)告，近 70% 的零售商表示采用AI已經(jīng)提高了他們的年?duì)I業(yè)收入。

泰國 7-Eleven 便利店的獨(dú)家特許運(yùn)營商 CP All 在其呼叫中心采用了對(duì)話式 AI 聊天機(jī)器人，其呼叫中心每天接到超過 25 萬通電話。標(biāo)準(zhǔn)泰語有 21 個(gè)輔音、18 個(gè)純?cè)簟? 個(gè)雙元音和 5 個(gè)聲調(diào)，其復(fù)雜性給機(jī)器人訓(xùn)練帶來了特殊的挑戰(zhàn)。

CP All 使用了 NVIDIA NeMo 來解決這個(gè)問題。NVIDIA NeMo 是一個(gè)用于構(gòu)建、訓(xùn)練和微調(diào) GPU 加速語音和自然語言理解模型的框架。借助 NVIDIA 技術(shù)驅(qū)動(dòng)的自動(dòng)語音識(shí)別和 NLP 模型，CP All 的聊天機(jī)器人理解泰語口語的準(zhǔn)確率達(dá)到了 97%。

隨著大量客戶對(duì)話交由對(duì)話式聊天機(jī)器人處理，人工專員的接聽工作量減少了 60%，這使客服團(tuán)隊(duì)可以專注于更加復(fù)雜的任務(wù)。聊天機(jī)器人還幫助減少了客戶等待時(shí)間并作出更加快速、準(zhǔn)確的回答，提升了客戶滿意度。

借助 AI 驅(qū)動(dòng)的客服體驗(yàn)，零售商能夠維系更多客戶，增強(qiáng)品牌忠誠度和提高銷售量。

電信運(yùn)營商實(shí)現(xiàn)網(wǎng)絡(luò)故障排除的自動(dòng)化

電信運(yùn)營商面臨的挑戰(zhàn)是既要解決復(fù)雜的網(wǎng)絡(luò)問題，又要遵守與終端客戶簽訂的服務(wù)級(jí)別協(xié)議并保證協(xié)議所規(guī)定的網(wǎng)絡(luò)正常運(yùn)行時(shí)間。為了保持網(wǎng)絡(luò)性能，電信運(yùn)營商必須能夠快速排除網(wǎng)絡(luò)設(shè)備故障、找出根本原因并解決網(wǎng)絡(luò)運(yùn)營中心的問題。

生成式 AI 能夠分析海量數(shù)據(jù)、自主排除網(wǎng)絡(luò)故障并同時(shí)執(zhí)行多項(xiàng)任務(wù)，是網(wǎng)絡(luò)運(yùn)營中心的理想選擇。IDC 的一項(xiàng)調(diào)查表明，73% 的全球電信企業(yè)已將能夠支持運(yùn)營的 AI 和機(jī)器學(xué)習(xí)投資作為其首要轉(zhuǎn)型舉措，顯示出該行業(yè)正在轉(zhuǎn)向 AI 和先進(jìn)技術(shù)。

新一代數(shù)字服務(wù)和咨詢領(lǐng)域的一家領(lǐng)先企業(yè) Infosys 構(gòu)建了 AI 驅(qū)動(dòng)的解決方案，幫助其電信合作伙伴克服客服挑戰(zhàn)。Infosys 使用 NVIDIA NIM 推理微服務(wù)和 RAG 開發(fā)了一個(gè) AI 聊天機(jī)器人，用來幫助排除網(wǎng)絡(luò)故障。

通過提供對(duì)基本、不依賴于特定供應(yīng)商的路由器命令的快速訪問以進(jìn)行診斷和監(jiān)控，這個(gè)生成式AI驅(qū)動(dòng)的聊天機(jī)器人大幅縮短了網(wǎng)絡(luò)故障排除時(shí)間，從而提升了整體客服體驗(yàn)。

為確保準(zhǔn)確性和作出符合語境的回答，Infosys 使用特定電信設(shè)備的手冊(cè)、培訓(xùn)文檔和故障排除指南對(duì)生成式 AI 解決方案進(jìn)行了訓(xùn)練。通過使用 NVIDIA NeMo Retriever 查詢企業(yè)數(shù)據(jù)，Infosys 的 LLM 輸出準(zhǔn)確率達(dá)到了 90%。而在使用 NVIDIA 技術(shù)對(duì)模型進(jìn)行微調(diào)和部署后，Infosys 將延遲減少至 0.9 秒，與基準(zhǔn)模型相比減少了 61%。使用基準(zhǔn)模型的聊天機(jī)器人準(zhǔn)確率為 85%，使用 NeMo Retriever 驅(qū)動(dòng)的 RAG 聊天機(jī)器人的準(zhǔn)確率達(dá)到了 92%。

通過支持網(wǎng)絡(luò)管理員、IT 團(tuán)隊(duì)和客服專員的 AI 工具，電信運(yùn)營商能夠更加高效地發(fā)現(xiàn)和解決網(wǎng)絡(luò)問題。

金融服務(wù)機(jī)構(gòu)輕松揭穿欺詐行為

金融服務(wù)機(jī)構(gòu)需要保持更高的數(shù)據(jù)敏感性，而客戶希望能夠隨時(shí)隨地辦理銀行業(yè)務(wù)和獲得支持。不同于其他可能包含一次性買賣的行業(yè)，銀行業(yè)通常建立在持續(xù)交易和長期客戶關(guān)系的基礎(chǔ)上。

與此同時(shí)，用戶的忠誠度可能稍縱即逝，多達(dá) 80% 的銀行客戶愿意為了獲得更好的體驗(yàn)而更換機(jī)構(gòu)。因此，金融機(jī)構(gòu)必須不斷改進(jìn)客服體驗(yàn)并更新對(duì)客戶需求和偏好的分析。

許多銀行正開始使用能夠直接與客戶互動(dòng)的 AI 虛擬助手處理詢問、執(zhí)行交易和將復(fù)雜問題上報(bào)給人工客服專員。NVIDIA 的 2024 年金融服務(wù)業(yè)中國 AI 現(xiàn)狀與趨勢顯示，超一半（44%）的中國受訪者正在使用 AI 改善客戶體驗(yàn)，42% 的中國受訪者正在探索使用生成式 AI 和 LLM 改善客戶體驗(yàn)和互動(dòng)。

擁有數(shù)百萬客戶和價(jià)值 80 億歐元存款的歐洲數(shù)字銀行 Bunq 正在部署生成式 AI 滿足用戶需求。借助自主開發(fā)的 LLM，Bunq 構(gòu)建了面向 Bunq 客戶的 AI 個(gè)人助手 Finn 。Finn 可以回答與金融相關(guān)的問題，比如“我上個(gè)月在生活用品上花了多少錢？”“我上周去的印度餐廳叫什么名字？”等。

此外，通過“人在回路（human-in-the-loop）”流程，F(xiàn)inn 還能幫助員工更快識(shí)別欺詐行為。通過采集并分析供合規(guī)人員審核的數(shù)據(jù)，Bunq 將識(shí)別欺詐行為的時(shí)間從原來的 30 分鐘縮短至 3 到 7 分鐘。

通過部署能夠利用數(shù)據(jù)保護(hù)客戶交易、執(zhí)行銀行業(yè)務(wù)請(qǐng)求并根據(jù)客戶反饋采取行動(dòng)的 AI 工具，金融機(jī)構(gòu)可以為客戶提供更高水平的服務(wù)，建立信任，提高滿意度，維持長期關(guān)系。

醫(yī)療健康和生命科學(xué)機(jī)構(gòu)克服人手短缺問題

在醫(yī)療健康行業(yè)，患者需要快速獲得專業(yè)醫(yī)療服務(wù)、精準(zhǔn)的定制治療方案以及與專業(yè)醫(yī)護(hù)人員富有同理心的互動(dòng)。但世界衛(wèi)生組織估計(jì)到 2030 年，該行業(yè)將出現(xiàn) 1000 萬的人員缺口，這可能會(huì)影響優(yōu)質(zhì)醫(yī)療服務(wù)的供應(yīng)。

AI 驅(qū)動(dòng)的數(shù)字醫(yī)療助手正在幫助醫(yī)療機(jī)構(gòu)事半功倍。借助在專業(yè)醫(yī)療語料庫上訓(xùn)練而成的 LLM，AI 智能助手可以幫助醫(yī)生和護(hù)士記錄臨床筆記、自動(dòng)下達(dá)處方和化驗(yàn)單并跟進(jìn)患者就診后的病歷記錄，為醫(yī)生和護(hù)士節(jié)省日常工作時(shí)間。

結(jié)合了語言和視覺模型的多模態(tài) AI 可以通過提取洞察和提供圖像數(shù)據(jù)摘要監(jiān)測患者，從而提高醫(yī)療環(huán)境的安全性。例如，這項(xiàng)技術(shù)可以提醒工作人員注意患者跌倒的風(fēng)險(xiǎn)和病房中的其他危險(xiǎn)。

為支持專業(yè)醫(yī)護(hù)人員，Hippocratic AI 訓(xùn)練了一個(gè)生成式 AI 醫(yī)療健康智能體，用于執(zhí)行低風(fēng)險(xiǎn)、非診斷性常規(guī)任務(wù)，例如提醒患者做好必要的預(yù)約準(zhǔn)備工作，并在就診后持續(xù)跟進(jìn)，確認(rèn)患者遵守用藥規(guī)范且沒有出現(xiàn)不良副作用。

Hippocratic AI 以循證醫(yī)學(xué)為基礎(chǔ)對(duì)其模型進(jìn)行了訓(xùn)練，并與一大批正規(guī)護(hù)士和醫(yī)生一起完成了嚴(yán)格的測試。該解決方案的群集架構(gòu)由 20 個(gè)模型組成，其中 1 個(gè)模型與患者交流，另外 19 個(gè)模型監(jiān)督該模型的輸出。整個(gè)系統(tǒng)包含 1.7 萬億個(gè)參數(shù)。

每個(gè)醫(yī)生和患者都有可能擁有自己的 AI 數(shù)字醫(yī)療助手，這將減少臨床醫(yī)生的工作負(fù)擔(dān)，提高醫(yī)療服務(wù)質(zhì)量。

通過將 AI 整合到客服互動(dòng)中，企業(yè)可以提供更加個(gè)性化、高效且及時(shí)的服務(wù)，樹立跨平臺(tái)全渠道客服體驗(yàn)的新標(biāo)桿。借助可在數(shù)秒內(nèi)處理大量數(shù)據(jù)的 AI 虛擬助手，企業(yè)客服專員能夠針對(duì)不同客戶群的復(fù)雜需求作出量身定制的回答。

為了開發(fā)和部署行之有效的客服 AI，企業(yè)可以對(duì) AI 模型進(jìn)行微調(diào)并部署 RAG 解決方案，以滿足各種特定需求。

NVIDIA 提供了一套工具和技術(shù)，幫助企業(yè)開始開發(fā)和部署客服 AI。

NVIDIA NIM 微服務(wù)作為 NVIDIA AI Enterprise 軟件平臺(tái)一部分，能夠加速生成式 AI 的部署并支持各種專為實(shí)現(xiàn)無縫、可擴(kuò)展的推理而優(yōu)化的 AI 模型。NVIDIA NIM Agent Blueprints 為開發(fā)者提供全套的參考示例，幫助他們構(gòu)建創(chuàng)新的客服應(yīng)用解決方案。

企業(yè)可以充分利用 AI 開發(fā)工具構(gòu)建精準(zhǔn)、高速的 AI 應(yīng)用，深入改變員工和客戶的體驗(yàn)。