一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

部署在邊緣設(shè)備上的輕量級模型

Carol Li ? 來源:電子發(fā)燒友 ? 作者:李彎彎 ? 2024-05-11 00:17 ? 次閱讀

電子發(fā)燒友網(wǎng)報道(文/李彎彎)邊緣AI算法是一種將人工智能(AI)算法和計算能力放置在接近數(shù)據(jù)源的終端設(shè)備中的策略。這種算法通常被部署在邊緣設(shè)備上,如傳感器智能手機、攝像頭等,以便在靠近數(shù)據(jù)源的地方進行智能決策和數(shù)據(jù)處理。

邊緣AI算法通常是經(jīng)過優(yōu)化和壓縮的輕量級模型

邊緣AI算法的工作原理涉及三個關(guān)鍵要素:終端設(shè)備、邊緣計算和人工智能算法。終端設(shè)備收集到的數(shù)據(jù)被認為是邊緣數(shù)據(jù),需要進行實時處理和分析。邊緣計算是指在距離數(shù)據(jù)源較近的地方進行計算和處理,而邊緣設(shè)備通常配備有一定的計算資源,能夠執(zhí)行一部分輕量級的AI算法和數(shù)據(jù)處理。在邊緣設(shè)備上運行的AI算法通常是經(jīng)過優(yōu)化和壓縮的輕量級模型,這些模型能夠在設(shè)備端進行實時的數(shù)據(jù)處理和分析,從而實現(xiàn)即時響應(yīng)。

邊緣AI算法涵蓋了多種類型,如決策樹算法,這是一種常用的分類算法,能夠根據(jù)特征屬性將數(shù)據(jù)進行劃分,從而實現(xiàn)對數(shù)據(jù)的分類和預(yù)測。支持向量機(SVM)算法,這是一種針對分類和回歸分析問題的算法,它通過尋找最大間隔超平面來實現(xiàn)數(shù)據(jù)的分類和預(yù)測。

神經(jīng)網(wǎng)絡(luò)算法,它模擬了人腦神經(jīng)元的工作原理,能夠處理復(fù)雜的非線性關(guān)系,因此在圖像識別、語音識別等領(lǐng)域有著廣泛的應(yīng)用。貝葉斯算法,這是一種基于貝葉斯定理的分類算法,它能夠根據(jù)先驗概率和樣本數(shù)據(jù)來計算后驗概率,從而實現(xiàn)對數(shù)據(jù)的分類和預(yù)測。

聚類算法,用于將數(shù)據(jù)集中的對象分成不同的組,常見的算法包括K均值算法、層次聚類算法等。回歸分析算法,用于建立變量之間的關(guān)系模型,從而進行預(yù)測和分析。

此外,還有監(jiān)督學習算法、無監(jiān)督學習算法、強化學習算法和深度學習算法等。監(jiān)督學習算法使用有標記數(shù)據(jù)集進行訓練,并通過這些數(shù)據(jù)中的輸入和輸出之間的關(guān)聯(lián)來構(gòu)建模型;無監(jiān)督學習算法則是使用無標記數(shù)據(jù)集進行訓練,通過發(fā)現(xiàn)數(shù)據(jù)之間的模式或結(jié)構(gòu)來構(gòu)建模型;強化學習算法則是通過在環(huán)境中執(zhí)行一系列操作來學習最優(yōu)策略的算法;深度學習算法則是一種基于神經(jīng)網(wǎng)絡(luò)模型的機器學習算法,通過多層次的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)來模擬人腦的工作方式。
這些算法在邊緣AI中可以根據(jù)具體的應(yīng)用場景進行選擇和組合,以實現(xiàn)對數(shù)據(jù)的分析、預(yù)測和決策支持。

邊緣AI算法適合應(yīng)用于對實時性要求高、網(wǎng)絡(luò)連接有限的場景

邊緣AI算法的使用場景包括,實時性要求高的場景,例如自動駕駛汽車和無人駕駛系統(tǒng),這些系統(tǒng)需要實時處理大量的傳感器數(shù)據(jù)以進行道路分析和響應(yīng)。邊緣AI算法能夠在設(shè)備端進行實時的數(shù)據(jù)處理和分析,實現(xiàn)即時響應(yīng),滿足自動駕駛系統(tǒng)對實時性的高要求。

網(wǎng)絡(luò)連接有限的場景,在一些偏遠地區(qū)或網(wǎng)絡(luò)覆蓋不足的地方,將數(shù)據(jù)全部傳輸?shù)皆贫诉M行處理可能不太現(xiàn)實。在這些場景中,邊緣AI算法可以在本地設(shè)備上進行數(shù)據(jù)處理和分析,減少了對網(wǎng)絡(luò)連接的依賴,保證了系統(tǒng)的穩(wěn)定性和可靠性。

隱私保護要求強的場景,對于一些涉及個人隱私的數(shù)據(jù),如醫(yī)療數(shù)據(jù)、金融數(shù)據(jù)等,將數(shù)據(jù)全部傳輸?shù)皆贫丝赡艽嬖谛孤讹L險。在這些場景中,將AI算法部署在邊緣設(shè)備上可以在本地對數(shù)據(jù)進行處理和分析,保護數(shù)據(jù)的隱私性。

在實際的應(yīng)用落地方面,如智慧安防領(lǐng)域,云天勵飛通過部署在攝像頭等邊緣設(shè)備上的AI算法,實現(xiàn)了實時的人臉識別、行為分析等功能,為公安部門提供了有效的技術(shù)支持。在智能園區(qū)、智能樓宇等領(lǐng)域,云天勵飛也通過邊緣AI算法的應(yīng)用,實現(xiàn)了能源管理、環(huán)境監(jiān)測等智能化功能。

曠視科技針對邊緣設(shè)備推出多種AI解決方案,包括邊緣計算智能分析盒、AIoT操作系統(tǒng)等。來支持在邊緣設(shè)備上實時運行復(fù)雜的AI算法,實現(xiàn)數(shù)據(jù)的快速處理和分析。同時,曠視科技還提供了全方位的服務(wù),幫助用戶將算法應(yīng)用于實際場景,并推廣到市場。

還有商湯科技,通過云智能邊緣盒龍騰邊緣計算的產(chǎn)品,為智能相機提供接入和解析能力,支持車、物、非機動車、行為等多種算法融合解析,算法自由調(diào)度,具備數(shù)據(jù)邊緣匯聚、邊緣解析、邊緣自治、云邊協(xié)同的能力。此外,商湯科技還通過標準化的大模型生產(chǎn)流程,支持了超過七成的行業(yè)業(yè)務(wù),為市場提供了豐富的邊緣AI解決方案。

寫在最后

總的來說,邊緣AI算法部署在邊緣設(shè)備上,通常是經(jīng)過經(jīng)過優(yōu)化和壓縮的輕量級模型,這些模型能夠在設(shè)備端進行實時的數(shù)據(jù)處理和分析。邊緣AI算法適用于需要實時處理數(shù)據(jù)、網(wǎng)絡(luò)連接有限、隱私保護要求高的場景中,在工業(yè)制造、智能家居、城市管理、能源管理等方面都已經(jīng)得到應(yīng)用。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    33554

    瀏覽量

    274196
  • 邊緣AI
    +關(guān)注

    關(guān)注

    0

    文章

    132

    瀏覽量

    5269
收藏 人收藏

    評論

    相關(guān)推薦

    DeepSeek昇騰模型部署的常見問題及解決方案

    開發(fā)者。 本文將為你詳細闡述昇騰DeepSeek模型部署的優(yōu)秀實踐。 昇騰DeepSeek模型部署的常見問題及解決方案見: DeepSeek
    的頭像 發(fā)表于 03-25 16:53 ?569次閱讀
    DeepSeek<b class='flag-5'>在</b>昇騰<b class='flag-5'>上</b>的<b class='flag-5'>模型</b><b class='flag-5'>部署</b>的常見問題及解決方案

    【幸狐Omni3576邊緣計算套件試用體驗】DeepSeek 部署及測試

    部署的相關(guān)流程,包括模型介紹、部署方案、RKLLM 庫、編譯和運行、效果演示等。通過板端人工智能大模型部署,展示了該開發(fā)板
    發(fā)表于 03-21 19:31

    研華邊緣AI Box MIC-ATL3S部署Deepseek R1模型

    隨著深度求索(DeepSeek)大模型的發(fā)布引發(fā)行業(yè)熱議,研華科技基于昇騰Atlas平臺邊緣AI Box MIC-ATL3S正式發(fā)布與Deepseek R1模型部署流程。該平臺依托昇
    的頭像 發(fā)表于 02-14 16:08 ?872次閱讀
    研華<b class='flag-5'>邊緣</b>AI Box MIC-ATL3S<b class='flag-5'>部署</b>Deepseek R1<b class='flag-5'>模型</b>

    DeepSeek模型成功部署,物通博聯(lián)在 AI 賦能工業(yè)持續(xù)探索、不斷前行

    和二次開發(fā),DeepSeek R1模型的發(fā)布迅速點燃了AI產(chǎn)業(yè)的革命之火。 DeepSeek R1 通過蒸餾將大模型的推理能力“壓縮”至小模型,兼顧性能與成本,為邊緣
    的頭像 發(fā)表于 02-12 11:15 ?385次閱讀

    邊緣設(shè)備設(shè)計和部署深度神經(jīng)網(wǎng)絡(luò)的實用框架

    ,以及由強大而高效的軟件工具鏈補充的低成本邊緣設(shè)備的可用性。此外,需要避免通過網(wǎng)絡(luò)傳輸數(shù)據(jù)——無論是出于安全原因還是僅僅為了盡量減少通信成本。 邊緣人工智能涵蓋廣泛的設(shè)備、傳感器、微控
    的頭像 發(fā)表于 12-20 11:28 ?613次閱讀

    AI模型部署邊緣設(shè)備的奇妙之旅:目標檢測模型

    網(wǎng)絡(luò)(DenseNet)等創(chuàng)新設(shè)計都是為了克服深層網(wǎng)絡(luò)訓練中的挑戰(zhàn)而提出的。 3 邊緣設(shè)備部署 邊緣
    發(fā)表于 12-19 14:33

    AI模型部署邊緣設(shè)備的奇妙之旅:如何在邊緣部署OpenCV

    的能力。 本文章主要講述如何在邊緣設(shè)備使用OpenCV。本次使用的邊緣設(shè)備是凌智電子開發(fā)的凌智視覺模塊,具體如下: 如對該
    發(fā)表于 12-14 09:31

    AI模型部署邊緣設(shè)備的奇妙之旅:如何實現(xiàn)手寫數(shù)字識別

    處理,而不必傳輸?shù)酵獠糠?wù)器,這有助于更好地保護用戶隱私和數(shù)據(jù)安全。 然而,邊緣計算也帶來了獨特的挑戰(zhàn),特別是資源受限的嵌入式系統(tǒng)中部署復(fù)雜的AI模型時。為了確保神經(jīng)網(wǎng)絡(luò)
    發(fā)表于 12-06 17:20

    恩智浦如何在邊緣設(shè)備部署LLM

    開放式聊天機器人到任務(wù)型助手。雖然LLM主要聚焦基于云和服務(wù)器端的應(yīng)用,但人們對嵌入式系統(tǒng)和邊緣設(shè)備部署這些模型的興趣也
    的頭像 發(fā)表于 11-29 09:39 ?700次閱讀

    設(shè)備利用AI Edge Torch生成式API部署自定義大語言模型

    ,從而無縫地將新的設(shè)備端生成式 AI 模型部署邊緣設(shè)備。本文是 Google AI Edge
    的頭像 發(fā)表于 11-14 10:23 ?832次閱讀
    <b class='flag-5'>在</b><b class='flag-5'>設(shè)備</b><b class='flag-5'>上</b>利用AI Edge Torch生成式API<b class='flag-5'>部署</b>自定義大語言<b class='flag-5'>模型</b>

    邊緣計算 聚智創(chuàng)芯|edge BMC輕量級帶外管理解決方案重磅發(fā)布

    8月28日,英特爾、芯??萍?、極達科技攜手深圳英特爾大灣區(qū)科技創(chuàng)新中心,共同舉辦了“輕量級帶外管理edgeBMC解決方案新品發(fā)布會”。本次活動以“邊緣計算聚智創(chuàng)芯”為主題,吸引了工業(yè)、教育、醫(yī)療
    的頭像 發(fā)表于 08-30 12:28 ?524次閱讀
    <b class='flag-5'>邊緣</b>計算 聚智創(chuàng)芯|edge BMC<b class='flag-5'>輕量級</b>帶外管理解決方案重磅發(fā)布

    邊緣計算 聚智創(chuàng)芯|edge BMC輕量級帶外管理解決方案重磅發(fā)布

    8月28日,英特爾、芯??萍肌O達科技攜手深圳英特爾大灣區(qū)科技創(chuàng)新中心,共同舉辦了“輕量級帶外管理edge BMC解決方案新品發(fā)布會”。本次活動以“邊緣計算 聚智創(chuàng)芯”為主題,吸引了工業(yè)、教育
    發(fā)表于 08-29 14:55 ?1053次閱讀
    <b class='flag-5'>邊緣</b>計算 聚智創(chuàng)芯|edge BMC<b class='flag-5'>輕量級</b>帶外管理解決方案重磅發(fā)布

    國產(chǎn)芯運行TinyMaxi輕量級的神經(jīng)網(wǎng)絡(luò)推理庫-米爾基于芯馳D9國產(chǎn)商顯板

    是面向單片機的超輕量級的神經(jīng)網(wǎng)絡(luò)推理庫,即 TinyML 推理庫,可以讓你在任意單片機上運行輕量級深度學習模型~ 開源地址:https://github.com/sipeed/TinyMaix搭建
    發(fā)表于 08-09 18:26

    國產(chǎn)芯運行TinyMaxi輕量級的神經(jīng)網(wǎng)絡(luò)推理庫-米爾基于芯馳D9國產(chǎn)商顯板

    D9360國產(chǎn)開發(fā)板)的TinyMaxi輕量級的神經(jīng)網(wǎng)絡(luò)推理庫方案測試。 算力測試 TinyMaix 是面向單片機的超輕量級的神經(jīng)網(wǎng)絡(luò)推理庫,即 TinyML 推理庫,可以讓你在任意單片機上運行輕量級深度
    發(fā)表于 08-07 18:06

    國產(chǎn)芯運行TinyMaxi輕量級的神經(jīng)網(wǎng)絡(luò)推理庫-米爾基于芯馳D9國產(chǎn)商顯板

    TinyMaix是面向單片機的超輕量級的神經(jīng)網(wǎng)絡(luò)推理庫,即TinyML推理庫,可以讓你在任意單片機上運行輕量級深度學習模型~開源地址:https://github.com/s
    的頭像 發(fā)表于 07-05 08:02 ?2114次閱讀
    國產(chǎn)芯<b class='flag-5'>上</b>運行TinyMaxi<b class='flag-5'>輕量級</b>的神經(jīng)網(wǎng)絡(luò)推理庫-米爾基于芯馳D9國產(chǎn)商顯板