一個(gè)典型的設(shè)計(jì)目標(biāo)是最大限度地提高系統(tǒng)的運(yùn)行效率。然而,這可能包括圍繞最新 GPU 設(shè)計(jì)系統(tǒng),這可能是一項(xiàng)艱巨的任務(wù)。
GPU,例如NVIDIA提供的那些,可能非常復(fù)雜。雖然供應(yīng)商可能會(huì)提供大量的文檔、示例代碼和其他詳細(xì)信息,但工程師仍然需要部署芯片/電路板/系統(tǒng)并使其以最高效率運(yùn)行。
一種好的做法是部署軟件開發(fā)工具包 (SDK) 或 GPU 供應(yīng)商提供的其他工具。但是,如果您需要在這些工具提供的功能之外冒險(xiǎn),它可能會(huì)變得很棘手。例如,NVIDIA 非常擅長(zhǎng)協(xié)助設(shè)計(jì)的 AI 部分。但是,當(dāng)您需要進(jìn)行正確的連接、處理安全性并確保系統(tǒng)能夠應(yīng)對(duì)惡劣環(huán)境的嚴(yán)酷環(huán)境時(shí),您可能需要求助于其他來源。
一個(gè)很好的例子是連接到多個(gè)攝像頭并需要使用 AI 進(jìn)行某種圖像檢測(cè)的系統(tǒng)。想想機(jī)場(chǎng)、火車站,甚至是制造工廠。如您所知,圖像可能是數(shù)據(jù)密集型的,當(dāng)您連接多個(gè)攝像頭時(shí),需要處理的數(shù)據(jù)量會(huì)增長(zhǎng)得非常快。
在這里,可以清楚地概述業(yè)務(wù)目標(biāo)——您是否在檢查行李、產(chǎn)品下線等?為了解決這個(gè)問題,您需要將這些需求轉(zhuǎn)化為可部署的解決方案,從而推動(dòng)一些行動(dòng)或結(jié)果。
確定期望的結(jié)果
下一步是確定所需的行動(dòng)或結(jié)果。然后,您選擇需要哪些數(shù)據(jù),從而確定所需的處理類型。直到您回答了這些問題,您才能開始設(shè)計(jì)和部署過程。雖然這條路徑可能看起來很明顯,但您會(huì)驚訝于有多少人試圖從最后一步開始,然后因?yàn)橐婚_始沒有概述目標(biāo)而最終重新設(shè)計(jì)他們的系統(tǒng)。
以“智能空間”為例。在這里,您想檢測(cè)物體,如果有什么不合適的地方,就會(huì)響起警報(bào)。該“警報(bào)”可能是可以聽到的,或者它可以生成發(fā)送給操作員的消息。這是一個(gè)比在房間里裝滿監(jiān)視器并讓一個(gè)或多個(gè)人不斷監(jiān)視這些監(jiān)視器以發(fā)現(xiàn)一些不合適的動(dòng)作更好的解決方案。
凌華科技通過數(shù)據(jù)采集處理這種情況,特別是使用 NVIDIA DeepStream SDK。該 SDK 用于捕獲視頻并將其寫入磁盤,以便您進(jìn)行一些培訓(xùn)。一旦發(fā)生這種情況并且您有足夠的數(shù)據(jù),您就可以進(jìn)入下一個(gè)階段,即訓(xùn)練階段。
來自 NVIDIA 的另一項(xiàng)幫助是遷移學(xué)習(xí)工具包的形式,它可以讓您為您的解決方案部署可部署的處理元素,這比從頭開始時(shí)要快得多,可能(并且希望)帶來更大的投資回報(bào)率。為此,凌華科技整理了一組用例,據(jù)該公司稱,這些用例應(yīng)該為開發(fā)人員提供一個(gè)很好的起點(diǎn),并提供優(yōu)化的特定領(lǐng)域模型。在其他情況下,模型可能來自 NVIDIA,例如用于公共安全、智慧城市或產(chǎn)品質(zhì)量檢測(cè)。在模型不可用的情況下,開發(fā)人員可以從現(xiàn)有模型開始,一個(gè)類似于 hisa 用例的模型,并根據(jù)這些特定需求對(duì)其進(jìn)行調(diào)整。
為了推動(dòng)行動(dòng)或結(jié)果,非結(jié)構(gòu)化數(shù)據(jù)通過 DeepStream 等處理模型運(yùn)行,從而產(chǎn)生結(jié)構(gòu)化數(shù)據(jù)。從那里,信息可以通過管道發(fā)送到其他應(yīng)用程序以采取行動(dòng)。
審核編輯:
-
NVIDIA
+關(guān)注
關(guān)注
14文章
5299瀏覽量
106265 -
gpu
+關(guān)注
關(guān)注
28文章
4937瀏覽量
131139
發(fā)布評(píng)論請(qǐng)先 登錄
博鼎彈簧發(fā)布數(shù)字目錄實(shí)現(xiàn)穩(wěn)定高效且易于操作的技術(shù)數(shù)據(jù)管理
如何基于Kahn處理網(wǎng)絡(luò)定義AI引擎圖形編程模型

【「大模型啟示錄」閱讀體驗(yàn)】營(yíng)銷領(lǐng)域大模型的應(yīng)用
【「大模型啟示錄」閱讀體驗(yàn)】如何在客服領(lǐng)域應(yīng)用大模型
【「大模型啟示錄」閱讀體驗(yàn)】對(duì)本書的初印象
XD08M3232紅外感應(yīng)單片機(jī)擁有哪些配置實(shí)現(xiàn)高性能處理能力
XD08M3232紅外感應(yīng)單片機(jī)擁有哪些配置實(shí)現(xiàn)高性能處理能力
多級(jí)寬帶放大器各級(jí)之間pcb獨(dú)立分開,信號(hào)線用sma線相接,電源線用普通銅線導(dǎo)線,有助于抗干擾嗎?
關(guān)于一些有助于優(yōu)化電源設(shè)計(jì)的新型材料
MSPM0-高級(jí)控制計(jì)時(shí)器有助于實(shí)現(xiàn)更好的控制和更好的數(shù)字輸出

驅(qū)動(dòng)電源效率測(cè)試的具體流程

【《大語言模型應(yīng)用指南》閱讀體驗(yàn)】+ 基礎(chǔ)知識(shí)學(xué)習(xí)
有助于提高網(wǎng)絡(luò)設(shè)備性能的FRAM SF25C20(MB85RS2MT)

【《大語言模型應(yīng)用指南》閱讀體驗(yàn)】+ 俯瞰全書
國(guó)內(nèi)低代碼平臺(tái)推薦--萬界星空科技低代碼平臺(tái)

評(píng)論