什么是邊緣 AI？

邊緣 AI 在硬件上本地處理和實現(xiàn)機器學(xué)習(xí)算法。這種形式的本地計算減少了數(shù)據(jù)傳輸?shù)木W(wǎng)絡(luò)延遲，并解決了一切都發(fā)生在設(shè)備本身上的安全挑戰(zhàn)。

邊緣 AI 的流程

Edge AI的本地處理并不意味著ML模型的訓(xùn)練應(yīng)該在本地進行。通常，訓(xùn)練在具有更大計算能力的平臺上進行，以處理更大的數(shù)據(jù)集。最后，這個經(jīng)過訓(xùn)練的模型可以部署在處理器或系統(tǒng)的硬件上。該系統(tǒng)具有AI加速功能以及用于實時數(shù)據(jù)處理應(yīng)用的已部署模型。

隨著對 GPU、NPU、TPU 和 AI 加速器的需求增加，邊緣 AI 技術(shù)經(jīng)歷了巨大的增長。隨著機器學(xué)習(xí)和人工智能已成為當(dāng)前場景中的趨勢技術(shù)，這種需求是顯而易見的。因此，由于當(dāng)前應(yīng)用程序的要求，Edge AI在硬件中找到了自己的位置。硬件中對本地高級處理和計算能力的需求解釋了Edge AI的重要性。

云 AI 的壽命能否超過邊緣 AI？

云 AI 通過在云上遠(yuǎn)程提供計算能力來支持硬件中的處理。由于處理是遠(yuǎn)程進行的，因此系統(tǒng)在性能和處理方面更加強大。此外，云計算增加了有關(guān)架構(gòu)和設(shè)計的選擇。它減少了系統(tǒng)硬件功耗的復(fù)雜性，因為高級處理發(fā)生在云上。但是，這些好處是以延遲和安全問題為代價的，如簡介中所述。

云 AI 的流程

當(dāng)計算需求非常密集并且需要大量數(shù)據(jù)處理時，云AI的壽命可以超過邊緣AI。如果應(yīng)用程序可能會在延遲和安全性方面受到損害，那么云AI是比Edge AI更好的選擇。云AI還可以解決功耗的復(fù)雜性。但是，它不能被視為選擇云AI而不是邊緣AI的決定性因素。

邊緣 AI 與云 AI

在邊緣AI和云AI之間進行選擇的不確定性主要發(fā)生在機器學(xué)習(xí)或深度學(xué)習(xí)用例中。由于深度學(xué)習(xí)算法需要密集處理，因此硬件的性能成為一個重要因素。云AI絕對可以為系統(tǒng)提供更好的性能，但大多數(shù)深度學(xué)習(xí)應(yīng)用程序都不能犧牲數(shù)據(jù)傳輸?shù)难舆t和網(wǎng)絡(luò)中的安全威脅。因此，對于人工智能應(yīng)用而言，邊緣 AI 的壽命超過了云 AI。

如前所述，功耗因素總是干預(yù)Edge AI處理器。這是可以理解的，因為繁重的計算需要更高的電源。但目前的Edge AI處理器具有AI加速器，可提供更高的性能和低功耗。然而，GPU和TPU仍然需要更高的功率，但設(shè)計和電路架構(gòu)的改進將壓倒這個問題。

由于云本身并不是AI應(yīng)用程序的絕佳選擇，因此邊緣和云AI的混合可以提供更好的性能。可能危及延遲的部分處理可以在云上完成，其余部分可以在硬件本身上完成。

示例：由于訓(xùn)練的模型需要根據(jù)實時數(shù)據(jù)進行更新，因此可以在云上完成此更新的訓(xùn)練。但是實時數(shù)據(jù)是通過Edge AI在硬件上進行處理的，以生成輸出。

因此，加工的劃分帶來了兩種技術(shù)的最佳優(yōu)勢。因此，它可能是AI應(yīng)用程序的更好選擇。但是，大多數(shù)應(yīng)用程序需要更快的實時更新訓(xùn)練，因此 Edge AI 的壽命超過了云 AI 技術(shù)。因此，邊緣AI正在超越云AI用于深度學(xué)習(xí)應(yīng)用。

審核編輯：郭婷