日前，國(guó)家級(jí)AI頂級(jí)盛會(huì)——2024世界人工智能大會(huì)（簡(jiǎn)稱(chēng)“WAIC 2024”）現(xiàn)場(chǎng)，墨芯人工智能展出的最新智能客服系統(tǒng)和高性能計(jì)算卡S40，為參會(huì)觀(guān)眾呈現(xiàn)了一場(chǎng)科技饕餮盛宴。

01墨芯智能客服系統(tǒng)

“懂你所說(shuō)” 才能順暢溝通

在WAIC 2024現(xiàn)場(chǎng)，「墨芯智能客服系統(tǒng)」以其“聰明聽(tīng)得懂人話(huà)”的體質(zhì)，吸引了眾多觀(guān)眾粉。這款A(yù)I客服不簡(jiǎn)單：在錄入基礎(chǔ)知識(shí)庫(kù)的前提下，既能夠有針對(duì)性地迅速回答相關(guān)問(wèn)題，還能通過(guò)實(shí)時(shí)人工審核與干預(yù)，提供更加精準(zhǔn)和人性化的回復(fù)。

在AI客服日益普及的今天，各行業(yè)的智能客服通過(guò)自然語(yǔ)言處理和語(yǔ)音識(shí)別技術(shù)，有效提升了服務(wù)效率。然而，當(dāng)遇到行業(yè)專(zhuān)業(yè)性極強(qiáng)的問(wèn)題時(shí)，傳統(tǒng)AI客服的“智能”有時(shí)顯得力不從心，甚至出現(xiàn)答非所問(wèn)、胡編亂造事實(shí)、模板化明顯等“智障”的窘境。為解決這一痛點(diǎn)，墨芯智能客服系統(tǒng)通過(guò)自研AI計(jì)算卡S30、開(kāi)源模型Llama3-70B，以及自研的開(kāi)發(fā)框架AgenDA，為智能客服注入了“超級(jí)大腦”——通過(guò)優(yōu)化智能客服系統(tǒng)的算法，顯著提升其對(duì)用戶(hù)需求的理解能力。

AgenDA 是墨芯自研的大型語(yǔ)言模型應(yīng)用程序開(kāi)發(fā)框架，可作為市面上其它同類(lèi)產(chǎn)品的超集（如：LangChain）。AgenDA 原生支持RAG（Retrieval-Augmented Generation，檢索增強(qiáng)生成）技術(shù)，內(nèi)置多種不同功能的 Function, 每個(gè) Function 都具備獨(dú)特的邏輯處理能力（如：索引、排序、多輪對(duì)話(huà)等），做到開(kāi)箱即用，并采用鏈?zhǔn)秸{(diào)用機(jī)制共同構(gòu)建起一個(gè)功能完備的大模型應(yīng)用。

墨芯基于該框架進(jìn)行拋磚引玉，以業(yè)內(nèi)常見(jiàn)的客服場(chǎng)景為例，這種設(shè)計(jì)讓AI客服“大腦”的運(yùn)行過(guò)程更加透明，可直觀(guān)清晰地查看每一步的計(jì)算細(xì)節(jié)，便于及時(shí)糾錯(cuò)和優(yōu)化，確?？头竽Ｐ蜕蛇^(guò)程可見(jiàn)可控、有跡可循，不再是“開(kāi)盲盒”。

值得一提的是，「墨芯智能客服系統(tǒng)」的“超級(jí)大腦”——內(nèi)置基礎(chǔ)知識(shí)庫(kù)不僅能自我學(xué)習(xí)和完善專(zhuān)業(yè)場(chǎng)景的知識(shí)內(nèi)容，還能在人工審核輔助下，從對(duì)話(huà)的開(kāi)始到大模型知識(shí)庫(kù)搜索、再到大模型對(duì)答案排序的每一個(gè)環(huán)節(jié)，都能夠進(jìn)行精確調(diào)整和優(yōu)化。這種及時(shí)調(diào)優(yōu)和持續(xù)學(xué)習(xí)，讓AI客服的“大腦”越用越“聰明”，從而更好地理解和滿(mǎn)足用戶(hù)的個(gè)性化需求。

通過(guò)這種技術(shù)的應(yīng)用， AI客服在應(yīng)對(duì)高度專(zhuān)業(yè)化的咨詢(xún)時(shí)（如：醫(yī)學(xué)、健康、金融等領(lǐng)域），能夠提供更加精準(zhǔn)可靠的解答。此外，在有效解決大模型幻覺(jué)問(wèn)題的基礎(chǔ)上，增強(qiáng)了結(jié)果的可控性。

02墨芯S40計(jì)算卡

四芯聯(lián)動(dòng)，算力爆表

除智能客服系統(tǒng)之外，墨芯還展出了另一款“硬核擔(dān)當(dāng)”——S40計(jì)算卡。這款專(zhuān)注于數(shù)據(jù)中心AI推理應(yīng)用的“超能戰(zhàn)士”，為處理大模型高吞吐量敏感場(chǎng)景而生，集成了四顆墨芯Antoum芯片，以其單卡強(qiáng)勁算力和高密度設(shè)計(jì)，為數(shù)據(jù)中心帶來(lái)了前所未有的處理效率。

除了前述這兩大亮點(diǎn)外，墨芯還帶來(lái)了一系列備受矚目的展品，包括：榮獲MLPerf國(guó)際基準(zhǔn)測(cè)試冠軍的S30計(jì)算卡，這款產(chǎn)品以其卓越的性能在業(yè)界引起了廣泛關(guān)注。同時(shí)，墨芯還展出了創(chuàng)新的AI集成架構(gòu)方案，這些方案以其高效和靈活性，為解決實(shí)際問(wèn)題提供了全新的視角。

在WAIC 2024上，墨芯不僅展示了其技術(shù)實(shí)力，更以用戶(hù)為中心，深度聚焦大模型落地中實(shí)際遇到的困境，通過(guò)將稀疏算法與硬件緊密結(jié)合，提供了切實(shí)可行的行業(yè)解決方案，全面釋放了稀疏計(jì)算在大模型上的應(yīng)用潛力，為行業(yè)交出了一份滿(mǎn)意的答卷。