通過(guò) NVIDIA NIM 微服務(wù)和加速計(jì)算，Ntropy、Contextual AI、NayaOne 和 Securiti 增強(qiáng)了用于欺詐檢測(cè)、財(cái)務(wù)規(guī)劃等領(lǐng)域的 AI 應(yīng)用。

NVIDIA 發(fā)布的全球金融服務(wù)業(yè) AI 現(xiàn)狀調(diào)查報(bào)告顯示，多達(dá) 91% 的金融服務(wù)公司正在評(píng)估或者已經(jīng)在使用 AI，并將其作為推動(dòng)創(chuàng)新、提高運(yùn)營(yíng)效率和增強(qiáng)客戶(hù)體驗(yàn)的工具。

借助由 NVIDIA NIM 微服務(wù)和加速計(jì)算驅(qū)動(dòng)的生成式 AI，金融機(jī)構(gòu)可以更好地優(yōu)化投資組合并加強(qiáng)欺詐檢測(cè)、客戶(hù)服務(wù)和風(fēng)險(xiǎn)管理。

NVIDIA 初創(chuàng)加速計(jì)劃成員企業(yè)中的 Ntropy、Contextual AI 和 NayaOne 公司，正在利用這些技術(shù)來(lái)加強(qiáng)金融服務(wù)應(yīng)用。

總部位于硅谷的初創(chuàng)公司 Securiti 提供了一個(gè)集中化的智能平臺(tái)，它可以確保數(shù)據(jù)和生成式 AI 的使用安全。該公司正在使用NVIDIA NIM為金融服務(wù)開(kāi)發(fā) AI 助手。

在本周于拉斯維加斯舉行的 Money20/20 金融科技大會(huì)上，這些公司展示了他們的技術(shù)如何幫助銀行、金融科技公司、支付公司和其它機(jī)構(gòu)帶來(lái)創(chuàng)新機(jī)會(huì)，把通常極為復(fù)雜的各種金融服務(wù)數(shù)據(jù)轉(zhuǎn)化為有用的洞察和創(chuàng)新機(jī)會(huì)。

Ntropy 為非結(jié)構(gòu)化財(cái)務(wù)數(shù)據(jù)帶來(lái)秩序

總部位于紐約的 Ntropy 正在消除金融服務(wù)工作流中的各種混亂情況——無(wú)序、隨機(jī)或不確定性。

Ntropy 聯(lián)合創(chuàng)始人兼首席執(zhí)行官 Naré Vardanyan 表示：“每當(dāng)資金從 A 點(diǎn)轉(zhuǎn)移到 B 點(diǎn)時(shí)，銀行對(duì)賬單、PDF 收據(jù)和其它形式的交易記錄都會(huì)留下文本信息。傳統(tǒng)上，此類(lèi)非結(jié)構(gòu)化數(shù)據(jù)很難清理，也難以用于金融應(yīng)用程序?！?/p>

該公司的交易豐富化應(yīng)用程序編程接口（API）可對(duì)來(lái)自各種來(lái)源和地理位置的金融數(shù)據(jù)進(jìn)行標(biāo)準(zhǔn)化處理。作為一種通用語(yǔ)言，它可以幫助金融服務(wù)應(yīng)用程序在幾毫秒內(nèi)以類(lèi)似人類(lèi)的準(zhǔn)確性來(lái)理解任何交易，而成本只需要傳統(tǒng)方法的萬(wàn)分之一。

其使用了 Llama 3 NVIDIA NIM 微服務(wù)以及在NVIDIA Tensor Core GPU上運(yùn)行的NVIDIA Triton推理服務(wù)器構(gòu)建而成。借助 Llama 3 NIM 微服務(wù)，Ntropy 將其大語(yǔ)言模型的利用率和吞吐量提高到運(yùn)行原生模型時(shí)的 20 倍。

Airbase 是一家領(lǐng)先的軟件平臺(tái)提供商，其平臺(tái)集成了從采購(gòu)到支付的全過(guò)程。通過(guò)使用大語(yǔ)言模型和 Ntropy 數(shù)據(jù)豐富器，Airbase 大大改進(jìn)了交易授權(quán)流程。

在 Money20/20 大會(huì)上，Ntropy 介紹了客戶(hù)如何使用他們的 API 來(lái)清理客戶(hù)的商戶(hù)數(shù)據(jù)，從而通過(guò)提高風(fēng)險(xiǎn)檢測(cè)模型的準(zhǔn)確性來(lái)加強(qiáng)欺詐檢測(cè)。這樣的改進(jìn)帶來(lái)了虛假交易減少和收入損失降低。

另一個(gè)演示重點(diǎn)介紹了自動(dòng)貸款代理如何利用 Ntropy API 來(lái)分析銀行網(wǎng)站上的信息，并生成相關(guān)的投資報(bào)告，從而加快用戶(hù)的貸款發(fā)放和決策過(guò)程。

Contextual AI 為金融服務(wù)行業(yè)

推進(jìn)檢索增強(qiáng)生成技術(shù)

位于加利福尼亞州 Mountain View 市的 Contextual AI 提供了一個(gè)由檢索增強(qiáng)生成（RAG）驅(qū)動(dòng)的生產(chǎn)級(jí) AI 平臺(tái)，該平臺(tái)非常適合在知識(shí)密集型金融服務(wù)場(chǎng)景中構(gòu)建企業(yè) AI 應(yīng)用程序。

Contextual AI 首席執(zhí)行官兼聯(lián)合創(chuàng)始人 Douwe Kiela 表示：“RAG 是將企業(yè) AI 投入實(shí)際應(yīng)用的解決方案。Contextual AI RAG 2.0 平臺(tái)采用了 NVIDIA 的技術(shù)和大語(yǔ)言模型，可為尋求優(yōu)化運(yùn)營(yíng)并提供新的生成式 AI 產(chǎn)品的金融服務(wù)企業(yè)帶來(lái)準(zhǔn)確、可審計(jì)的 AI。”

Contextual AI 平臺(tái)將整個(gè) RAG 管道（包括提取、檢索、重新排序和生成）集成到一個(gè)優(yōu)化的系統(tǒng)中。該系統(tǒng)可以在幾分鐘內(nèi)部署，并且能夠根據(jù)客戶(hù)需求進(jìn)一步調(diào)整和優(yōu)化，從而在依賴(lài)背景資料的任務(wù)中實(shí)現(xiàn)更高的準(zhǔn)確度。

匯豐銀行計(jì)劃使用 Contextual AI，通過(guò)檢索并綜合相關(guān)的市場(chǎng)展望、財(cái)經(jīng)新聞和運(yùn)營(yíng)文件來(lái)提供研究洞察和流程指導(dǎo)支持。其它金融機(jī)構(gòu)也在利用 Contextual AI 的預(yù)制應(yīng)用程序，涉及財(cái)務(wù)分析、政策合規(guī)報(bào)告生成、財(cái)務(wù)建議查詢(xún)解析等等。

例如，用戶(hù)可能會(huì)問(wèn)，“我們預(yù)測(cè) 2025 年第四季度的央行利率是多少？”，Contextual AI平臺(tái)將根據(jù)實(shí)際文件提供簡(jiǎn)短的解釋和準(zhǔn)確的答案，包括引用信息源的特定章節(jié)。

Contextual AI 使用 NVIDIA Triton 推理服務(wù)器和開(kāi)源的NVIDIA TensorRT-LLM庫(kù)來(lái)加速和優(yōu)化大語(yǔ)言模型的推理性能。

NayaOne 提供數(shù)字沙盒

以推動(dòng)金融服務(wù)創(chuàng)新

總部位于倫敦的 NayaOne 提供了一個(gè) AI 沙盒，允許客戶(hù)在商業(yè)化部署之前安全地測(cè)試和驗(yàn)證 AI 應(yīng)用程序。其技術(shù)平臺(tái)使金融機(jī)構(gòu)能夠創(chuàng)建合成數(shù)據(jù)，還為金融機(jī)構(gòu)提供了一個(gè)擁有數(shù)百家金融科技公司的龐大市場(chǎng)的入口。

借助這個(gè)數(shù)字沙盒，客戶(hù)可以對(duì)應(yīng)用程序的公平性、透明度、準(zhǔn)確性和其他合規(guī)指標(biāo)進(jìn)行基準(zhǔn)測(cè)試，以便更好地確保最高的性能和成功的集成。

NayaOne 首席執(zhí)行官 Karan Jain 表示：“金融服務(wù)領(lǐng)域?qū)?AI 驅(qū)動(dòng)的解決方案的需求正在加速增長(zhǎng)，而我們與 NVIDIA 的合作使金融機(jī)構(gòu)能夠在可控、安全的環(huán)境中充分利用強(qiáng)大的生成式 AI。我們正在創(chuàng)建一個(gè)生態(tài)系統(tǒng)，讓金融機(jī)構(gòu)可以更快、更有效地開(kāi)發(fā)原型產(chǎn)品，從而實(shí)現(xiàn)真正的業(yè)務(wù)轉(zhuǎn)型并實(shí)施增長(zhǎng)計(jì)劃。”

NayaOne 的 AI 沙盒使用了 NVIDIA NIM 微服務(wù)，讓客戶(hù)能夠探索和對(duì)優(yōu)化后的 AI 模型進(jìn)行實(shí)驗(yàn)，并更輕松地部署它們。與運(yùn)行基于 CPU 的各種模型相比，借助 NVIDIA 加速計(jì)算，NayaOne 的欺詐檢測(cè)模型在處理大型數(shù)據(jù)集時(shí)，處理速度提升最多達(dá) 10 倍，基礎(chǔ)設(shè)施成本最多降低了 40%。

這個(gè)數(shù)字沙盒還使用了開(kāi)源的NVIDIA RAPIDS數(shù)據(jù)科學(xué)和 AI 庫(kù)，用來(lái)加速資金流動(dòng)應(yīng)用中的欺詐檢測(cè)和預(yù)防功能。NayaOne 在 Money20/20 大會(huì)上的 NVIDIA AI 展臺(tái)上展示了其數(shù)字沙盒。

Securiti 利用 AI 助手來(lái)改進(jìn)財(cái)務(wù)規(guī)劃

Securiti 高度靈活的 Data+AI 平臺(tái)為廣泛的生成式 AI 應(yīng)用提供動(dòng)力，包括安全的企業(yè) AI 助手以及大語(yǔ)言模型的訓(xùn)練和調(diào)優(yōu)，使用戶(hù)能夠構(gòu)建安全的端到端企業(yè) AI 系統(tǒng)。

該公司目前正在開(kāi)發(fā)一款基于 NVIDIA NIM 的財(cái)務(wù)規(guī)劃助手。該助手的聊天機(jī)器人可以訪(fǎng)問(wèn)各種財(cái)務(wù)數(shù)據(jù)，同時(shí)遵守隱私保護(hù)和權(quán)限政策，利用上下文感知來(lái)解答用戶(hù)提出的財(cái)務(wù)相關(guān)問(wèn)題。

Securiti 首席數(shù)據(jù)官 Jack Berkowitz 表示：“在保證數(shù)據(jù)安全、隱私與合規(guī)的情況下，銀行難以大規(guī)模地提供個(gè)性化的財(cái)務(wù)建議。Securiti 通過(guò)強(qiáng)大的數(shù)據(jù)保護(hù)和基于角色的訪(fǎng)問(wèn)權(quán)限來(lái)確保安全、可擴(kuò)展的支持，幫助企業(yè)構(gòu)建安全的 AI 助手，使其能夠針對(duì)個(gè)性化目標(biāo)來(lái)提供量身定制的財(cái)務(wù)建議。”

這個(gè)聊天機(jī)器人可以檢索各種來(lái)源的數(shù)據(jù)，比如收益記錄、客戶(hù)資料和賬戶(hù)余額以及投資研究報(bào)告。Securiti 的解決方案可安全地?cái)z取并準(zhǔn)備數(shù)據(jù)，將其用于高性能的由 NVIDIA 驅(qū)動(dòng)的大語(yǔ)言模型，同時(shí)保留了訪(fǎng)問(wèn)權(quán)限等控制功能。最終，會(huì)通過(guò)一個(gè)簡(jiǎn)單的用戶(hù)界面提供個(gè)性化的答案。

Securiti 使用 Llama 3 70B-Instruct NIM 微服務(wù)優(yōu)化了大語(yǔ)言模型的性能，同時(shí)確保數(shù)據(jù)得到安全的使用。該公司在 Money20/20 大會(huì)上展示了其生成式 AI 解決方案。

NIM 微服務(wù)和 Triton 推理服務(wù)器可通過(guò)NVIDIA AI Enterprise軟件平臺(tái)獲得。