近年來，隨著大數(shù)據(jù)和人工智能技術(shù)的逐步成熟與廣泛應(yīng)用，AI業(yè)務(wù)對算力的需求不斷增加，算法迭代速度持續(xù)加快，新的算法框架層出不窮，場景化的算法應(yīng)用日趨豐富。面對日益復(fù)雜的海量算法應(yīng)用場景，如何建設(shè)一個更加高效并可持續(xù)演進(jìn)的算法資源管理平臺，來幫助企業(yè)實(shí)現(xiàn)算法全生命周期管理，已成為各大企業(yè)在開展AI應(yīng)用過程中面臨的一大挑戰(zhàn)。

為了幫助企業(yè)實(shí)現(xiàn)算法的統(tǒng)一管理和算法在企業(yè)應(yīng)用中的全生命期支撐，提升企業(yè)資源的利用率和開放性，構(gòu)建算法管理生態(tài)體系，淵亭科技針對行業(yè)痛點(diǎn)需求推出了算法倉平臺服務(wù)。

算法倉介紹

1.什么是算法倉？

人工智能的“三算”包括算力、算料和算法，分別對應(yīng)算力倉、算料倉和算法倉。

其中，算法倉是管理算法模型的倉庫，倉庫集中管理所有的AI算法模型，并提供AI分析服務(wù)能力，實(shí)現(xiàn)多廠家、多版本算法的快速集成，提供算法的生命周期管理能力。

2.算法倉做什么用？

算法倉提供統(tǒng)一的算法管理服務(wù)和生命周期管理能力，實(shí)現(xiàn)終端設(shè)備、平臺、算法和應(yīng)用之間的全解耦，通過分層架構(gòu)設(shè)計(jì)和提供標(biāo)準(zhǔn)化的接口，將各種能力以模塊化服務(wù)的方式提供給不同應(yīng)用靈活調(diào)用，實(shí)現(xiàn)算法與應(yīng)用解耦、算法與數(shù)據(jù)解耦、算法與硬件解耦，同時通過統(tǒng)一API接口進(jìn)行能力開放，實(shí)現(xiàn)數(shù)據(jù)共享與生態(tài)合作。算法倉體系架構(gòu)使得算法分析能力不再固化在應(yīng)用產(chǎn)品中，具有系統(tǒng)高可用、資源高利用率、算法靈活開放等優(yōu)勢。

淵亭科技算法倉平臺

淵亭科技算法倉基于公司深厚的技術(shù)沉淀進(jìn)行研發(fā)，平臺既集成了國內(nèi)外各類領(lǐng)先的算法模型和淵亭科技自研算法模型，也支持第三方算法廠商的算法接入，建設(shè)算法開發(fā)-自動化準(zhǔn)入-運(yùn)行-運(yùn)營的全生命周期管理體系，以滿足不同場景的算法管理需求。平臺遵循成熟的算法自動化檢測標(biāo)準(zhǔn)，符合企業(yè)的算法運(yùn)營體系規(guī)范，能夠快速實(shí)現(xiàn)人工智能應(yīng)用高質(zhì)量落地，促進(jìn)AI資源高效共享與運(yùn)營。

1.平臺總體架構(gòu)

算法倉平臺核心功能包括算法廠家管理、算法信息管理、算法服務(wù)管理、算法資源管理、開發(fā)者服務(wù)、準(zhǔn)入自動化測試等模塊，并支持對接企業(yè)的基礎(chǔ)設(shè)施平臺和運(yùn)營平臺，實(shí)現(xiàn)算法所需數(shù)據(jù)和支持應(yīng)用的快速對接。算法倉平臺遵循了一套完整的算法統(tǒng)一對接標(biāo)準(zhǔn)規(guī)范，支持通過準(zhǔn)入準(zhǔn)出機(jī)制和統(tǒng)一對接標(biāo)準(zhǔn)實(shí)現(xiàn)第三方算法與自研算法的接入。基于算法倉平臺整體能力可為企業(yè)提供算法全生命周期管理服務(wù)，簡化算法調(diào)度流程，提升算法的管理、部署和上線應(yīng)用效率。

淵亭科技算法倉平臺架構(gòu)圖

2.核心功能介紹

（1）算法倉功能介紹

本功能實(shí)現(xiàn)對算法廠商信息的全面管理。該功能不僅可對算法廠商基本信息進(jìn)行管理，還支持對廠商接入、退出、評價和算法授權(quán)等進(jìn)行管理，可實(shí)現(xiàn)自動生成和刪除廠商編碼、預(yù)生成算法編碼等特性，同時支持對算法授權(quán)日志、算法授權(quán)數(shù)據(jù)進(jìn)行統(tǒng)計(jì)和展示。

預(yù)生成算法編碼管理

（2）算法信息管理

該功能支持第三方算法廠商進(jìn)行算法信息管理，廠商可基于通用/專用的算法鏡像關(guān)聯(lián)維護(hù)多個算法。該模塊支持對算法類別、事件告警等基本信息進(jìn)行管理。同時，用戶可對鏡像編號、鏡像版本等信息進(jìn)行錄入、修改、刪除等操作，校驗(yàn)并管理鏡像狀態(tài)（測試態(tài)、下架態(tài)、上架態(tài)）等。

新增算法

（3）算法服務(wù)管理

該功能具備服務(wù)動態(tài)調(diào)度、算力資源調(diào)度、算法鏡像調(diào)度和算法自動化發(fā)布的能力。用戶可根據(jù)運(yùn)營管理規(guī)劃，進(jìn)行服務(wù)初始化部署，啟動算法的服務(wù)實(shí)例。服務(wù)動態(tài)調(diào)度支持根據(jù)實(shí)際下發(fā)任務(wù)進(jìn)行服務(wù)的運(yùn)行期資源調(diào)度，實(shí)現(xiàn)動態(tài)調(diào)度（彈性擴(kuò)容、縮容、銷毀）的特性。算力資源調(diào)度支持結(jié)合算法任務(wù)承載量動態(tài)調(diào)度相應(yīng)算力資源（包括整服務(wù)器資源、碎片化單卡資源、利用率較低的單卡資源），實(shí)現(xiàn)算法分析任務(wù)漂移的能力，支持在容器宕機(jī)、算法假死等情況下實(shí)現(xiàn)任務(wù)重新下發(fā)和任務(wù)分析。

算法服務(wù)管理

（4）算法準(zhǔn)入管理

該模塊提供了算法接口規(guī)范檢測、算法功能驗(yàn)證、資源情況評估和導(dǎo)出測試報(bào)告等功能，支持第三方算法和自研算法根據(jù)統(tǒng)一的對接標(biāo)準(zhǔn)實(shí)現(xiàn)算法接入，算法廠家可快速接入算法倉，同時提供算法驗(yàn)證功能，包含告警上報(bào)驗(yàn)證、算法準(zhǔn)確率驗(yàn)證和誤報(bào)率評估驗(yàn)證等。

（5）算法資源管理

提供納管中心節(jié)點(diǎn)及邊緣節(jié)點(diǎn)算力資源的能力，中心節(jié)點(diǎn)可統(tǒng)一管理邊緣節(jié)點(diǎn)，其中算力資源包括資源IP、資源規(guī)格、（CPU、GPU、內(nèi)存等）、歸屬節(jié)點(diǎn)等信息。監(jiān)控中心節(jié)點(diǎn)及邊緣節(jié)點(diǎn)的服務(wù)器資源、主機(jī)資源等，算法維度統(tǒng)計(jì)算法資源消耗，可視化展示統(tǒng)計(jì)結(jié)果。監(jiān)控算法容器的運(yùn)行狀態(tài)和資源使用情況，支持以圖表可視化方式展示資源監(jiān)控信息并支持導(dǎo)出報(bào)表。

容器監(jiān)控管理

3.平臺核心價值

（1）幫助企業(yè)提高算法生態(tài)整合能力。

（2）幫助企業(yè)建立算法全生命周期管理規(guī)范，提升算法資源利用效率。

（3）通過“賽馬機(jī)制”形成算法更新迭代的良性循環(huán)，幫助企業(yè)持續(xù)提升算法的計(jì)算性能。

（4）幫助企業(yè)節(jié)省算力資源的成本支出。

應(yīng)用案例

1.天翼云案例

2022年3月，淵亭科技成功中標(biāo)天翼數(shù)字生活科技有限公司算法倉項(xiàng)目。該平臺面向6000萬+個生活終端，實(shí)現(xiàn)數(shù)百個人工智能算法的集中加載、定向分發(fā)、擇優(yōu)計(jì)算及統(tǒng)一管理，形成算法生態(tài)合作，助力中國電信踐行“云改數(shù)轉(zhuǎn)”策略，極大發(fā)揮在數(shù)字生活領(lǐng)域的領(lǐng)先實(shí)力。

平臺累計(jì)對接6個運(yùn)營子平臺接口、3個OOS接口、5個算法規(guī)范接口、2個鏡像服務(wù)接口和30多個云平臺接口。上線了算法產(chǎn)家管理、算法管理、算法服務(wù)管理、算法準(zhǔn)入自動化測試等核心模塊。同時，算法成功應(yīng)用在老鼠識別、佩戴廚師帽檢測、安全帽檢測、車牌識別、工程車輛檢測、身份證識別等20+個業(yè)務(wù)場景。

天翼云算法倉極大地提升了天翼數(shù)字生活科技有限公司對算法的自主掌控能力，有效的支撐多場景的智聯(lián)業(yè)務(wù)發(fā)展。

2.中國鐵塔案例

近日，淵亭科技就算法倉共建與中國鐵塔簽訂合作協(xié)議。項(xiàng)目根據(jù)中國鐵塔的運(yùn)營思路，依托淵亭科技算法倉平臺，設(shè)計(jì)算法商城、動態(tài)配額等機(jī)制，激發(fā)算法廠商參與的積極度，持續(xù)構(gòu)建算法生態(tài)，并同步建立算法自動化檢測標(biāo)準(zhǔn)和算法運(yùn)營體系規(guī)范，在縮短算法應(yīng)用周期的同時，幫助中國鐵塔整合通信基礎(chǔ)設(shè)施、IT基礎(chǔ)設(shè)施等監(jiān)控能力，研發(fā)視聯(lián)算法任務(wù)調(diào)度機(jī)制，實(shí)現(xiàn)邊緣自治和算法動態(tài)調(diào)度的運(yùn)行保障能力。

為進(jìn)一步拓展通信鐵塔基礎(chǔ)設(shè)施的服務(wù)能力，打造具有電信行業(yè)特色的自主掌控、開放高效的通信鐵塔基礎(chǔ)設(shè)施服務(wù)信息化平臺，提高AI技術(shù)在運(yùn)營效率、服務(wù)水平等方面的應(yīng)用能力，同時推進(jìn)數(shù)字化管理創(chuàng)新，中國鐵塔基于算法倉等關(guān)鍵能力，對現(xiàn)有業(yè)務(wù)應(yīng)用進(jìn)行智能化改造，智能化地支撐生產(chǎn)和決策，切實(shí)為基層減負(fù)，提高運(yùn)營管理效率。

3.中國移動案例

本項(xiàng)目通過在中國移動的計(jì)算節(jié)點(diǎn)上部署算法倉平臺，實(shí)現(xiàn)了跨區(qū)域算法的統(tǒng)一管理、分發(fā)和部署，有效管理了中國移動在山東、江西、云南、內(nèi)蒙、四川等地的算力資源，使得各省公司算法應(yīng)用上線效率大幅提升，上線周期大幅縮短。同時，算法倉平臺有力的支撐了中國移動和包貸應(yīng)用場景落地，通過算法對移動用戶進(jìn)行授信分析，激活無法授信的沉睡客戶，實(shí)現(xiàn)了最終客戶轉(zhuǎn)換，使得獲客成本大幅降低，最終助力移動和包貸業(yè)績大幅增長。

4.國防領(lǐng)域案例

淵亭科技算法倉平臺除在政企領(lǐng)域開展實(shí)踐外，在國防領(lǐng)域也有著廣泛的運(yùn)用，能夠?yàn)閲李I(lǐng)域豐富的物聯(lián)網(wǎng)、人工智能場景，輸出包含機(jī)器學(xué)習(xí)和深度學(xué)習(xí)的應(yīng)用級全棧算法服務(wù)能力，基于完備的邊霧云一體化架構(gòu)實(shí)現(xiàn)算法的全面管理和調(diào)度。例如在某項(xiàng)目中，圍繞指揮控制、戰(zhàn)場態(tài)勢、支援保障等業(yè)務(wù)方向，構(gòu)建覆蓋指揮中樞到單兵作戰(zhàn)終端的一體化算法分發(fā)和運(yùn)行調(diào)度框架，對國防領(lǐng)域復(fù)雜的異構(gòu)計(jì)算資源（大數(shù)據(jù)集群、GPU 集群、邊緣節(jié)點(diǎn)、終端算力等）進(jìn)行優(yōu)化調(diào)配，匹配算力和數(shù)據(jù)進(jìn)行高效計(jì)算，統(tǒng)籌情報(bào)取證、戰(zhàn)場目標(biāo)意圖識別、作戰(zhàn)策略推薦等高頻算法的運(yùn)行和使用，提高了智能作戰(zhàn)的體系韌性，實(shí)現(xiàn)方案優(yōu)化和綜合管理一體化，大大降低了人工智能在軍事領(lǐng)域落地的復(fù)雜性。

算法倉能力在各領(lǐng)域的廣泛應(yīng)用，只是淵亭諸多人工智能技術(shù)創(chuàng)新和產(chǎn)品化沉淀的縮影之一。淵亭科技還將持續(xù)扎根技術(shù)、沉淀產(chǎn)品、服務(wù)場景，聚焦人工智能的應(yīng)用價值，把落地業(yè)務(wù)做深做透，以獲得更多客戶的信賴、認(rèn)可，助力各行各業(yè)在智能化時代的創(chuàng)新與突破。