當(dāng)計(jì)算系統(tǒng)根據(jù)經(jīng)過(guò)訓(xùn)練的機(jī)器學(xué)習(xí)算法進(jìn)行預(yù)測(cè)時(shí)，就會(huì)發(fā)生推理。雖然推理的概念并不新鮮，但在邊緣執(zhí)行這些高級(jí)操作的能力是相對(duì)較新的。

基于邊緣的推理引擎背后的技術(shù)是嵌入式計(jì)算機(jī)。但顯然，它遠(yuǎn)遠(yuǎn)不止于此，它具有放大的計(jì)算能力，大量的存儲(chǔ)空間以及實(shí)時(shí)處理大量數(shù)據(jù)所需的I / O。目標(biāo)是盡可能靠近生成數(shù)據(jù)的位置執(zhí)行操作，從而在最短的時(shí)間內(nèi)獲得最準(zhǔn)確的結(jié)果。該位置通常非?？拷?a href="http://www.www27dydycom.cn/v/tag/117/" target="_blank">傳感器，外部數(shù)據(jù)被輸入到系統(tǒng)中。一旦做出決策，它們通常會(huì)被送回邊緣進(jìn)行，從而推動(dòng)邊緣的實(shí)時(shí)決策。

基于邊緣的推理引擎的一個(gè)關(guān)鍵問(wèn)題是其部署環(huán)境。例如，它是否必須設(shè)計(jì)用于處理沖擊和振動(dòng)？它會(huì)產(chǎn)生極高的溫度或低溫嗎？它是否會(huì)提供性能加速的正確平衡？對(duì)每個(gè)問(wèn)題的回答都可能導(dǎo)致不同的設(shè)計(jì)，或者至少以不同的方式進(jìn)行設(shè)計(jì)。

一些供應(yīng)商擁有全套內(nèi)部環(huán)境問(wèn)題測(cè)試設(shè)備。這將包括熱調(diào)節(jié)模擬，當(dāng)然還有沖擊和振動(dòng)。在大多數(shù)應(yīng)用中，專為“堅(jiān)固耐用和熱應(yīng)用”而設(shè)計(jì)的系統(tǒng)意味著它可以在-40°C至+ 70°C的溫度范圍內(nèi)工作，并且可以承受高達(dá)20 G的沖擊和3 Grms的振動(dòng)。

為人工智能而增強(qiáng)

通用嵌入式計(jì)算機(jī)和設(shè)計(jì)用于處理推理算法的計(jì)算機(jī)之間有明顯的區(qū)別。首先，推理引擎對(duì)計(jì)算性能的要求最高。任何設(shè)計(jì)人員都可以從貨架上撤下高端 X86 處理器并將其整合到系統(tǒng)中，即使是包含數(shù)據(jù)中心平臺(tái)功能的系統(tǒng)。但是，在硬件和軟件方面，需要人工智能系統(tǒng)方面的深厚專業(yè)知識(shí)和經(jīng)驗(yàn)，才能設(shè)計(jì)出具有最大吞吐量的系統(tǒng)。Premio的專家通過(guò)其工業(yè)級(jí)計(jì)算機(jī)平臺(tái)的強(qiáng)大硬件工程和設(shè)計(jì)滿足了這一要求。

Premio提出了一種稱為邊緣增強(qiáng)節(jié)點(diǎn)的模塊化技術(shù)，可以最大限度地提高邊緣的系統(tǒng)性能。硬件節(jié)點(diǎn)以物理方式連接到平臺(tái)的下半部分，并為需要數(shù)據(jù)采集以獲得實(shí)時(shí)見解的邊緣級(jí)工作負(fù)載提供硬件加速。這種兩件式模塊化設(shè)計(jì)有助于保持平臺(tái)的耐用性，同時(shí)通過(guò)創(chuàng)新型罐式磚塊和 GPU 中的非易失性內(nèi)存 （NVMe） 固態(tài)磁盤驅(qū)動(dòng)器 （SSD） 提供性能加速，以實(shí)現(xiàn)并行計(jì)算性能。每個(gè)邊緣加速節(jié)點(diǎn)都使用高 RPM 主動(dòng)冷卻來(lái)確保這些組件的可靠性。

Premio提供了許多不同的邊緣增強(qiáng)節(jié)點(diǎn)。例如，RCO-6000-CFL-2N2060S 選件增加了一個(gè)可熱插拔的 NVMe 固態(tài)硬盤罐，能夠容納多達(dá)兩個(gè) 15 毫米 U.2 固態(tài)硬盤和一個(gè) PCIe GPU。第二種選擇是 RCO-6000-CFL-4NH，可增強(qiáng)存儲(chǔ)功能，支持 x2 熱插拔 NVMe 固態(tài)硬盤罐，可容納兩個(gè) 15 毫米 U.2 固態(tài)硬盤，用于支持硬件和軟件 RAID 的高容量 NVMe 存儲(chǔ)。第三個(gè)選項(xiàng) RCO-6000-CFL-8NS 專注于更高速的 NVMe 存儲(chǔ)，使系統(tǒng)集成商能夠添加多達(dá) 8 個(gè) 7 毫米、2.5 英寸的存儲(chǔ)。U.2 NVMe 固態(tài)硬盤，即將推出用于普瑞米歐的邊緣提升節(jié)點(diǎn)產(chǎn)品組合。

這種類型的拓?fù)浞浅Ｖ匾?，因?yàn)閷?duì)于基于邊緣的推理系統(tǒng)，存儲(chǔ)與駐留在背板上的I / O分開，從而最大限度地提高性能。“秘訣”在于平衡PCIe通道的可用數(shù)量以提供最佳性能，這是Premio能夠從其嵌入式和數(shù)據(jù)中心計(jì)算機(jī)架構(gòu)設(shè)計(jì)組合中提取的設(shè)計(jì)技術(shù)。

必須考慮的其他I / O包括USB，COM接口，甚至5G。對(duì)于電路板供應(yīng)商和 OEM 來(lái)說(shuō)，處理高吞吐量 I/O 的一個(gè)好方法是通過(guò)模塊化 I/O 子板來(lái)增加靈活性。通過(guò)這種方法，系統(tǒng)可以準(zhǔn)確地提供所需的I / O，并消除特定于應(yīng)用程序的工作負(fù)載的不必要的I / O選擇。

面向 ADAS 應(yīng)用的人工智能

當(dāng)今一個(gè)流行的應(yīng)用是ADAS或高級(jí)駕駛員輔助系統(tǒng)。這些復(fù)雜的系統(tǒng)基于有效的數(shù)據(jù)收集和共享為自動(dòng)駕駛汽車應(yīng)用提供動(dòng)力，旨在為五級(jí)自動(dòng)駕駛提供不斷更智能的算法。

注意到這顯然是一個(gè)基于邊緣的應(yīng)用，邊緣增強(qiáng)節(jié)點(diǎn)設(shè)計(jì)團(tuán)隊(duì)肯定會(huì)結(jié)合適當(dāng)?shù)募庸坦δ芎蜔嵴{(diào)節(jié)。例如，系統(tǒng)操作員需要始終動(dòng)態(tài)了解箱內(nèi)的溫度。在這里，可能的情況包括風(fēng)扇。作為耗電組件，該風(fēng)扇僅在必要時(shí)打開電源。

在Premio為客戶提供的軟件開發(fā)工具包中，有一個(gè)應(yīng)用程序可以讓他們最大限度地利用這些風(fēng)扇，確定它們應(yīng)該何時(shí)打開，它們應(yīng)該以什么速度運(yùn)行，等等。該軟件還提供了一個(gè)安全閥，因?yàn)樗梢詫⑺蠭 / O讀取操作從各種外圍設(shè)備暫停回CPU。也可以使用物理按鈕和LED指示燈執(zhí)行此操作。

最大化電源效率

功率效率是基于邊緣的推理引擎的首要任務(wù)。系統(tǒng)設(shè)計(jì)人員認(rèn)識(shí)到需要將處理能力放在更靠近物聯(lián)網(wǎng)傳感器的位置。一個(gè)直接的解決方案是添加各種性能加速器，通常采用 GPU、NVMe 存儲(chǔ)和 M.2 加速器的形式。此設(shè)計(jì)策略的權(quán)衡是，每個(gè)組件都是耗電的組件，需要解決功耗與性能預(yù)算的問(wèn)題。將這些任務(wù)分離到邊緣增強(qiáng)節(jié)點(diǎn)可提高處理能力并減少主機(jī)處理器上的負(fù)載，主機(jī)處理器的負(fù)載在其加固的寬功率輸入（從 9 V 到 48 V DC）中隔離。模塊化邊緣加速節(jié)點(diǎn)的一個(gè)獨(dú)特功能是，它為可靠性至關(guān)重要的最苛刻的邊緣工作負(fù)載中的強(qiáng)大性能加速模塊（NVMe SSD、GPU 或 m.2 加速器）提供電源穩(wěn)定性。

由于基于邊緣的推理引擎會(huì)生成大量數(shù)據(jù)，因此存儲(chǔ)是關(guān)鍵。邊緣加速節(jié)點(diǎn)包括一個(gè) 6 Gbit/s SATA 接口，可連接四個(gè)驅(qū)動(dòng)器（兩個(gè)內(nèi)部驅(qū)動(dòng)器和兩個(gè)外部驅(qū)動(dòng)器）。然而，對(duì)于此應(yīng)用程序而言，合并 NVMe 驅(qū)動(dòng)器可能會(huì)改變游戲規(guī)則。在這種特殊情況下，它最多通過(guò)四個(gè) 2.5 英寸 15 毫米驅(qū)動(dòng)器和八個(gè) 2.5 英寸 7 毫米驅(qū)動(dòng)器中的另一個(gè)選項(xiàng)進(jìn)行處理。

雖然板載存儲(chǔ)至關(guān)重要，但將數(shù)據(jù)與云協(xié)調(diào)的能力也至關(guān)重要。在此方案中，此過(guò)程通過(guò)標(biāo)準(zhǔn)千兆以太網(wǎng)或 10 Gbit/s 模塊進(jìn)行處理。無(wú)線或蜂窩LTE也是選項(xiàng)，具體取決于應(yīng)用程序和環(huán)境。由于該設(shè)計(jì)提供靈活的I/O子板，用戶甚至可以集成5G子板模塊，以實(shí)現(xiàn)5G部署的超低延遲連接。

安全性和下一代可升級(jí)性

雖然任何工業(yè)平臺(tái)都必須包含適當(dāng)?shù)陌踩胧?，但將系統(tǒng)性能推向邊緣會(huì)使安全性變得更加重要。Premio 以公認(rèn)的行業(yè)標(biāo)準(zhǔn)（如 TPM 2.0）為基礎(chǔ)來(lái)加密數(shù)據(jù)。然后是要解決的物理方面 - 有人從字面上竊取物理系統(tǒng)。為了解決這個(gè)問(wèn)題，邊緣增強(qiáng)節(jié)點(diǎn)上的 NVMe 驅(qū)動(dòng)器位于鎖和鑰匙驅(qū)動(dòng)器籠后面。

邊緣增強(qiáng)節(jié)點(diǎn)的模塊化使其本質(zhì)上可升級(jí)。只需在模塊可用時(shí)將其換成性能更高的版本即可。雖然此功能可能會(huì)略微增加物料清單（BOM），但它可以保護(hù)長(zhǎng)期投資，因?yàn)榭梢员ＷC系統(tǒng)具有更長(zhǎng)的有效壽命。在軟件方面，可以通過(guò)LAN在現(xiàn)場(chǎng)進(jìn)行無(wú)線升級(jí)，并且由于內(nèi)置的安全功能，可以放心地完成。而隨著行業(yè)走向云原生升級(jí)路徑，這已經(jīng)成為升級(jí)的首選方式。只要系統(tǒng)保持“容器化”狀態(tài)，安全問(wèn)題就會(huì)得到解決和管理 - 無(wú)論是在系統(tǒng)的整個(gè)生命周期內(nèi)，還是在不斷變化的數(shù)字安全威脅環(huán)境中。

Premio認(rèn)識(shí)到，其本地化的制造使公司在競(jìng)爭(zhēng)中占據(jù)了一席之地。所有組裝都在洛杉磯的工廠進(jìn)行，無(wú)論訂單大小。這消除了海外供應(yīng)鏈的潛在負(fù)擔(dān)，加快了上市時(shí)間并簡(jiǎn)化了部署，使客戶能夠非?？焖俚貑?dòng)和運(yùn)行企業(yè)規(guī)模和部署。

審核編輯：郭婷