大約 10 億臺(tái)攝像機(jī)——終極物聯(lián)網(wǎng)（ IoT ）傳感器——已經(jīng)部署在世界各地的城市和空間，以幫助我們生活得更好、更安全。優(yōu)化 AI 支持的視頻分析對(duì)于無(wú)摩擦零售、優(yōu)化庫(kù)存管理、智能城市交通工程、工廠地面光學(xué)檢查、醫(yī)療設(shè)施的患者護(hù)理等至關(guān)重要。

NVIDIA Metropolis 是一個(gè)應(yīng)用程序框架、一套開(kāi)發(fā)工具和合作伙伴生態(tài)系統(tǒng)，它將可視數(shù)據(jù)和人工智能結(jié)合在一起，以提高廣泛行業(yè)的運(yùn)營(yíng)效率和安全性。

但大規(guī)模人工智能的發(fā)展之路是艱難的。

從定義需求、采購(gòu)硬件、開(kāi)發(fā)和微調(diào)軟件、 IT 和安全審查，到在每個(gè)站點(diǎn)實(shí)際安裝和更新系統(tǒng)和應(yīng)用程序軟件，這一過(guò)程艱巨、耗時(shí)且成本高昂。

當(dāng)開(kāi)發(fā)人員專注于構(gòu)建 AI 應(yīng)用程序時(shí)，他們的操作效果最好，并且不需要承擔(dān)在邊緣位置部署 AI 時(shí)可能出現(xiàn)的硬件、安全性和可伸縮性問(wèn)題的支持責(zé)任。

圖 1 。人工智能部署的典型時(shí)間表從 POC 到規(guī)?？赡苄枰獢?shù)月的時(shí)間。

NVIDIA Fleet 命令解決了這些問(wèn)題，并使 AI 應(yīng)用程序的部署變得容易。 Fleet Command 是一項(xiàng)交鑰匙云服務(wù)，它允許任何技能級(jí)別的管理員通過(guò)跨分布式邊緣基礎(chǔ)設(shè)施安全地部署、管理和擴(kuò)展 AI 來(lái)管理 AI 生命周期，所有這些都來(lái)自一個(gè)控制平面?？邕吘壴O(shè)備遠(yuǎn)程編排 AI 應(yīng)用程序意味著 Fleet Command 可以為組織節(jié)省數(shù)周的規(guī)劃和手動(dòng)實(shí)施邊緣基礎(chǔ)設(shè)施的時(shí)間。

艦隊(duì)指揮問(wèn)題

最近，我們主持了一次Metropolis開(kāi)發(fā)者會(huì)議，展示如何使用 Fleet Command 在邊緣部署 vision AI 應(yīng)用程序?？梢圆榭淳W(wǎng)絡(luò)研討會(huì)。

數(shù)以百計(jì)的開(kāi)發(fā)人員希望將他們的應(yīng)用程序從 POC 轉(zhuǎn)移到規(guī)模，與會(huì)者進(jìn)行了熱烈的討論并參與其中。下面是一些最常見(jiàn)的問(wèn)題和我們的答案。

艦隊(duì)司令部如何幫助加速 AI 應(yīng)用程序的部署？

艦隊(duì)司令部是一個(gè)交鑰匙解決方案，消除了構(gòu)建和維護(hù)邊緣軟件平臺(tái)的復(fù)雜性：

簡(jiǎn)化邊緣 AI ： Fleet Command 消除了構(gòu)建、操作和維護(hù)邊緣軟件平臺(tái)的復(fù)雜性，為管理員提供了一個(gè)“無(wú) IT ”測(cè)試和優(yōu)化的解決方案，使他們只需點(diǎn)擊幾下就可以從軟件安裝轉(zhuǎn)移到邊緣部署。

優(yōu)化的部署：任何技能級(jí)別的管理員都可以將應(yīng)用程序部署和擴(kuò)展到任意數(shù)量的位置。一鍵式資源調(diào)配將系統(tǒng)轉(zhuǎn)變?yōu)槿斯ぶ悄茉O(shè)備，并消除了熟練 IT 技術(shù)人員前往邊緣站點(diǎn)安裝服務(wù)器的需要，從而加快了實(shí)現(xiàn)人工智能的時(shí)間 NSight 。

AI 生命周期管理：通過(guò)無(wú)線方式更新應(yīng)用程序，輕松擴(kuò)展其他應(yīng)用程序，并監(jiān)控各個(gè)應(yīng)用程序之間的 AI 運(yùn)行狀況。彈性軟件平臺(tái)自動(dòng)重啟應(yīng)用程序， MIG 在出現(xiàn)問(wèn)題時(shí)對(duì)工作負(fù)載進(jìn)行評(píng)估。詳細(xì)的監(jiān)控儀表盤和廣泛的自動(dòng)化流程使管理 AI 變得簡(jiǎn)單。

分層安全：從云到邊緣，領(lǐng)先的安全協(xié)議確保應(yīng)用程序數(shù)據(jù)始終受到保護(hù)，從而減輕了組織構(gòu)建和運(yùn)行這些功能的負(fù)擔(dān)。一個(gè)安全的私人注冊(cè)中心隔離了知識(shí)產(chǎn)權(quán)和傳輸中的加密，并在靜止時(shí)保護(hù)了有價(jià)值的數(shù)據(jù)。

圖 2 。使用 Fleet 命令，您的 edge Fleet 可以通過(guò)一個(gè)界面集中管理。

在 Fleet Command 部署應(yīng)用程序需要滿足哪些要求？

艦隊(duì)司令部通過(guò)舵圖在 Kubernetes 部署容器化應(yīng)用程序。

Fleet Command 可以跟蹤哪些指標(biāo)？是否存在系統(tǒng)指標(biāo)或是否可以從應(yīng)用程序中提取數(shù)據(jù)？

除了系統(tǒng)和應(yīng)用程序日志外， Fleet Command 還提供系統(tǒng)和位置運(yùn)行狀況以及部署狀態(tài)警報(bào)。

我是否需要使用 Fleet Command 用戶界面，或者可以使用 API 來(lái)完成？

合作伙伴可以利用艦隊(duì)司令部 API 集成到其現(xiàn)有解決方案中，為部署 Edge AI （單一整合的 edge 計(jì)算平臺(tái)）的組織提供支持。

服務(wù)器失去 Internet 連接時(shí)會(huì)發(fā)生什么情況？艦隊(duì)司令部還能運(yùn)作嗎？

是的，部署在 Fleet Command 上的應(yīng)用程序仍然可以在沒(méi)有 Internet 連接的情況下運(yùn)行。當(dāng)與網(wǎng)絡(luò)斷開(kāi)連接時(shí)，邊緣服務(wù)器將繼續(xù)運(yùn)行并提供洞察力。唯一失去的功能是更新或控制這些系統(tǒng)的能力，直到在 Fleet Command 和邊緣系統(tǒng)之間重新建立互聯(lián)網(wǎng)連接。

Fleet Command 支持哪些硬件？

Fleet Command 要求在邊緣站點(diǎn)使用 NVIDIA – 認(rèn)證系統(tǒng)。這是所有 NVIDIA – 認(rèn)證系統(tǒng)的綜合列表。但是，建議部署專為邊緣用例設(shè)計(jì)的系統(tǒng)。

有關(guān)根據(jù)您的需求配置系統(tǒng)規(guī)范的一般指南 NVIDIA – 認(rèn)證系統(tǒng)配置指南。

我怎樣才能看到艦隊(duì)指揮的演示？

觀看這個(gè)演示了解使用 Fleet Command 在幾分鐘內(nèi)跨其邊緣基礎(chǔ)設(shè)施部署 AI 有多容易。

通過(guò)觀看此按需大都會(huì)開(kāi)發(fā)人員會(huì)議，了解更多關(guān)于 Fleet Command 的力量，以及它如何幫助您在邊緣部署、管理和擴(kuò)展 AI ，以數(shù)據(jù)怪物呈現(xiàn)的用例為特色。

關(guān)于作者

Tiffany Yeung 是 NVIDIA Edge 和企業(yè)計(jì)算解決方案的產(chǎn)品營(yíng)銷經(jīng)理。 Tiffany 專注于利用 NVIDIA 邊緣解決方案使醫(yī)院、商店、倉(cāng)庫(kù)、工廠等實(shí)現(xiàn)創(chuàng)新。在 NVIDIA 之前， Tiffany 的背景是創(chuàng)業(yè)，她曾為許多財(cái)富 500 強(qiáng)公司提供咨詢。

Troy Estes 是 NVIDIA Edge 和企業(yè)計(jì)算解決方案的產(chǎn)品營(yíng)銷經(jīng)理。在加入 Edge & Enterprise 業(yè)務(wù)部門之前，特洛伊曾在自主汽車業(yè)務(wù)部門和 NVIDIA 電網(wǎng)產(chǎn)品集團(tuán)從事?tīng)I(yíng)銷活動(dòng)和支持產(chǎn)品 GTM 。

審核編輯：郭婷