一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

為AI端點應用選擇合適的閃存

星星科技指導員 ? 來源:嵌入式計算設(shè)計 ? 作者:Craig Huang ? 2022-10-25 09:33 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

人工智能的起源

從1955年到1956年,達特茅斯學院的助理教授約翰·麥卡錫(John McCarthy)被廣泛認為是人工智能(AI)之父。來自哈佛大學的馬文·明斯基(Marvin Minsky)、IBM的克勞德·香農(nóng)(Claude Shannon)和美國貝爾實驗室的納撒尼爾·羅切斯特(Nathaniel Rochester)共同創(chuàng)造了人工智能(AI)的概念,稱“如果機器可以使用不同的語言來形成抽象或概念,解決現(xiàn)在為人類保留的各種問題,并通過自主學習來改善自己,我們稱之為AI。

牛津詞典將人工智能定義為“能夠執(zhí)行通常需要人類智能的任務的計算機系統(tǒng)的理論和發(fā)展,例如視覺感知,語音識別,決策和語言之間的翻譯。

隨著系統(tǒng)的發(fā)展,人工智能技術(shù)將出現(xiàn)在更多的物聯(lián)網(wǎng)應用中,如傳感、智能手機、網(wǎng)絡(luò)搜索、人臉或車輛車牌識別、智能電表、工業(yè)控制自動駕駛。

在自動駕駛領(lǐng)域,4級測試(被認為是全自動駕駛,盡管人類駕駛員仍然可以請求控制)已經(jīng)在美國進行。隨著5級(真正的自動駕駛,汽車完成所有駕駛,沒有駕駛艙)自動駕駛即將到來,我們不僅將依靠交通法律法規(guī),還將依靠AI算法的開發(fā)人員來確保車輛和行人的安全。

根據(jù)國際數(shù)據(jù)公司(IDC)的統(tǒng)計數(shù)據(jù),到2024年,全球人工智能服務預計將上升至18.4%,市值約為378億美元。這包括定制應用程序以及針對定制平臺的相關(guān)支持和服務,例如深度學習架構(gòu)、卷積神經(jīng)網(wǎng)絡(luò)(一類人工神經(jīng)網(wǎng)絡(luò),最常用于分析視覺圖像)和人工智能相關(guān)芯片(CPU、GPUFPGA、TPU、ASIC)等。

IDC還預測,全球數(shù)據(jù)存儲將從2018年的33ZB飆升至2025年的175ZB,其中50%以上將來自物聯(lián)網(wǎng)設(shè)備。

考慮到到2025年,全球?qū)⒉渴鸺s140億臺物聯(lián)網(wǎng)設(shè)備,因此我們大幅增加云中的計算單元數(shù)量和計算能力以應對海量數(shù)據(jù)增長,這難道不是最重要的嗎?

好吧,簡短的答案是否定的。它沒有考慮從端點到云的數(shù)據(jù)傳輸鏈中的帶寬和延遲等真正挑戰(zhàn),這就是為什么“邊緣計算”如此迅速地出現(xiàn)的原因。

沒有必要增加帶寬和服務器數(shù)量來應對物聯(lián)網(wǎng)設(shè)備的快速增長。最好將應用程序移動到端點設(shè)備,這樣就無需將所有數(shù)據(jù)發(fā)送到云進行處理、傳輸、存儲和分析。例如,在工業(yè)自動化應用中,數(shù)據(jù)存儲距離會影響效率 - 5G移動設(shè)備制造商如果不加強端點人工智能并改革計算存儲架構(gòu),可能會遇到嚴重的電池壽命困難。

安全性是另一個重要問題,尤其是在萬物互聯(lián)(IoE)時代,機密信息,數(shù)據(jù)泄漏或黑客攻擊事件很常見。在邊緣進行計算可以最大限度地減少數(shù)據(jù)在“云 -管道-端點”路徑中傳輸?shù)拇螖?shù),在這種情況下,功耗和總系統(tǒng)擁有成本降低,同時確保數(shù)據(jù)和網(wǎng)絡(luò)安全。

比較人工智能芯片

AI技術(shù)分為兩類;訓練和推理。訓練由 CPU、GPU 和 TPU 在云中執(zhí)行,以不斷增加用于構(gòu)建數(shù)據(jù)模型的數(shù)據(jù)庫資源。推理依賴于訓練的數(shù)據(jù)模型,更適合于完成邊緣設(shè)備和特定應用。它通常由專用集成電路和FPGA芯片處理。

人工智能相關(guān)芯片包括中央處理器、顯卡、現(xiàn)場可編程門陣列、熱塑性聚氨酯和集成電路。為了了解這些芯片之間的比較情況,以下是5個關(guān)鍵因素的比較重點。這些是:

計算機科學

靈活性

兼容性

權(quán)力

成本。

-中央處理器

CPU具有強大的計算能力和首屈一指的軟件和硬件兼容性。但由于馮·諾依曼架構(gòu)的限制,數(shù)據(jù)需要在內(nèi)存和處理器之間來回傳輸。這限制了平均處理速度,并且與其他解決方案相比,在功耗和成本方面推動了自身發(fā)展的能力。

- 顯卡

例如,由于采用了計算統(tǒng)一設(shè)備架構(gòu),Nvidia的GPU可以主觀地讀取內(nèi)存位置,并通過共享虛擬內(nèi)存來提高計算能力。平均計算能力超過CPU數(shù)百甚至數(shù)千倍。

GPU已經(jīng)開發(fā)具有良好的軟硬件兼容性,但在功耗和成本效益方面需要改進。對硬件的投資,如額外的冷卻系統(tǒng),對于減少任何熱量問題也是必不可少的。

- 亞瑟士

ASIC芯片專為特定應用而設(shè)計。它們的計算能力、整體功耗和成本效益都可以在驗證和調(diào)整后得到優(yōu)化。

- 現(xiàn)場可編程門陣列

FPGA的軟硬件兼容性值得稱道,即使整體計算能力、成本效益和功耗都不是最好的。對于開發(fā)人員來說,從FPGA開始AI芯片開發(fā)仍然是一個好主意。

突破馮·諾依曼架構(gòu)的界限

馮·諾依曼架構(gòu)被傳統(tǒng)計算設(shè)備廣泛采用,它不分離計算和存儲,而是更注重計算。處理器和內(nèi)存之間的無休止數(shù)據(jù)傳輸消耗了大約80%的時間和功率。學者們已經(jīng)提出了許多不同的方法來解決這個問題 - 通過光互連和2.5D / 3D堆疊實現(xiàn)高帶寬數(shù)據(jù)通信。通過增加緩存層和近數(shù)據(jù)存儲(如高密度片上存儲)的數(shù)量來降低內(nèi)存訪問延遲和功耗。

但是,在人腦中,計算和存儲之間有什么區(qū)別嗎?我們是否使用左半球進行計算,使用正確的半球進行存儲?顯然不是。人腦的計算和存儲發(fā)生在同一個地方,不需要數(shù)據(jù)遷移。

然后,學術(shù)界和業(yè)界都渴望找到一種類似于人腦結(jié)構(gòu)的新架構(gòu),并且能夠?qū)⒂嬎愫痛鎯τ袡C地結(jié)合起來,這并不奇怪。解決方案是“計算存儲設(shè)備”,它直接使用存儲單元進行計算,或者對計算單元進行分類,以便它們對應于不同的存儲單元 - 最大限度地降低數(shù)據(jù)遷移引起的功耗。

存儲行業(yè)的一些制造商已經(jīng)探索了不同的選擇。例如,非易失性存儲器(NVM)存儲數(shù)模轉(zhuǎn)換器產(chǎn)生的模擬信號并輸出計算能力。同時,輸入電壓和輸出電流在NVM中起可變電阻的作用,模擬電流信號通過模數(shù)轉(zhuǎn)換器轉(zhuǎn)換為數(shù)字信號。這樣就完成了從數(shù)字信號輸入到數(shù)字信號輸出的轉(zhuǎn)換過程。這種方法的最大優(yōu)點是可以充分利用成熟的20/28nm CMOS工藝,而不是像CPU/GPU那樣追求昂貴的7nm/5nm先進工藝。

隨著成本和功耗的降低,延遲得到了顯著改善,這對于無人機,智能機器人,自動駕駛和安全監(jiān)控等應用至關(guān)重要。

通常,端點推理過程的計算復雜度較低,所涉及的任務相對固定。由于硬件加速功能的通用性要求較低,因此無需頻繁更改體系結(jié)構(gòu)。這更適合于內(nèi)存計算的實現(xiàn)。相關(guān)統(tǒng)計數(shù)據(jù)顯示,2017年之前,人工智能無論是訓練還是參考,都是在云端完成的;但到2023年,邊緣設(shè)備/芯片上的AI參考將占市場的一半以上,總計200-300億美元。對于IC制造商來說,這是一個巨大的市場。

人工智能需要什么樣的閃存?

每個人都會同意高質(zhì)量、高可靠性和低延遲的閃存對于AI芯片和應用的重要性。為不同的應用找到性能、功耗、安全性、可靠性和高效率的適當平衡至關(guān)重要。成本雖然重要,但不應該是最重要的考慮因素。

審核編輯:郭婷

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 智能手機
    +關(guān)注

    關(guān)注

    66

    文章

    18624

    瀏覽量

    183802
  • 物聯(lián)網(wǎng)
    +關(guān)注

    關(guān)注

    2930

    文章

    46230

    瀏覽量

    392284
  • 人工智能
    +關(guān)注

    關(guān)注

    1806

    文章

    49011

    瀏覽量

    249347
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點推薦

    如何選擇合適的臺慶電感?

    選擇合適的臺慶電感時,需要根據(jù)實際應用場景和使用需求來考慮多個因素。以下是一些關(guān)鍵的步驟和考慮因素: 一、了解電感的基本參數(shù) 額定電流 :根據(jù)電路中的功耗和電流負載來選擇合適的額定電流
    的頭像 發(fā)表于 04-14 15:51 ?296次閱讀

    怎么選擇合適的境外云服務器?

    選擇合適的境外云服務器需圍繞業(yè)務需求、性能匹配、安全合規(guī)、成本效益四大核心維度展開,通過精準定位目標用戶群體、評估資源需求、平衡安全與成本,實現(xiàn)最優(yōu)配置。以下UU云小編將詳細介紹怎么選擇合適
    的頭像 發(fā)表于 02-28 09:54 ?584次閱讀

    如何選擇合適的鋁殼電阻

    選擇合適的鋁殼電阻,需要綜合多方面因素進行考量。以下是一些關(guān)鍵要點: 根據(jù)電路的具體需求確定所需阻值,在簡單的分壓電路中,若想獲得特定的電壓輸出,需依據(jù)輸入電壓和期望的輸出電壓,利用歐姆定律計算出
    發(fā)表于 02-20 13:48

    如何選擇合適的PLD型號

    選擇合適的PLD(可編程邏輯器件)型號時,需要考慮多個因素,以確保所選器件能夠滿足應用需求并具有成本效益。以下是一些關(guān)鍵的步驟和考慮因素: 一、明確應用需求 功能需求 :確定PLD需要實現(xiàn)的具體
    的頭像 發(fā)表于 01-20 09:40 ?515次閱讀

    淺談如何選擇合適的傳感器

    :傳感器可以測量多種物理量,如溫度、壓力、光強、位移、重量等。明確需要測量的物理量是選擇傳感器的第一步。 ? ? ? 2. 測量范圍:根據(jù)應用場景選擇合適的測量范圍。例如,如果應用場景的溫度范圍
    的頭像 發(fā)表于 01-20 00:11 ?603次閱讀
    淺談如何<b class='flag-5'>選擇</b><b class='flag-5'>合適</b>的傳感器

    怎么選擇合適的漏電保護開關(guān)

    選擇合適的漏電保護開關(guān)是確保家庭電氣安全的重要步驟。以下是一些選擇漏電保護開關(guān)的關(guān)鍵要點: 一、品牌與認證 品牌選擇 :優(yōu)先選擇知名品牌,因
    的頭像 發(fā)表于 12-20 16:54 ?1817次閱讀

    如何選擇合適的電機驅(qū)動芯片

    在現(xiàn)代生活中,電機廣泛使用在家電產(chǎn)品、汽車電子、工業(yè)控制等眾多應用領(lǐng)域,每一個電機的運轉(zhuǎn)都離不開合適的驅(qū)動芯片。納芯微提供豐富的電機驅(qū)動產(chǎn)品選擇,本期視頻將重點介紹常見電機種類與感性負載應用,幫助大家更深入了解如何選擇
    的頭像 發(fā)表于 11-21 12:31 ?1414次閱讀
    如何<b class='flag-5'>選擇</b><b class='flag-5'>合適</b>的電機驅(qū)動芯片

    直播報名丨第3講:如何選擇合適的算法模塊

    AI檢測實戰(zhàn)技能,實現(xiàn)職業(yè)發(fā)展的新跨越。本系列課程共分為4講:第1講AI檢測系統(tǒng)開發(fā)流程概述第2講熱門AI檢測案例解析第3講如何選擇合適的算
    的頭像 發(fā)表于 11-16 01:06 ?401次閱讀
    直播報名丨第3講:如何<b class='flag-5'>選擇</b><b class='flag-5'>合適</b>的算法模塊

    如何選擇合適的UWB模塊

    選擇合適的UWB(超寬帶)模塊需要考慮多個因素,以確保模塊能夠滿足特定應用場景的需求。以下是一些關(guān)鍵因素和步驟,幫助您選擇合適的UWB模塊: 一、了解UWB技術(shù)基礎(chǔ) 工作原理 :UWB
    的頭像 發(fā)表于 10-31 11:18 ?1010次閱讀

    如何選擇合適AI云平臺

    選擇合適AI云平臺是企業(yè)成功實施AI戰(zhàn)略的關(guān)鍵一步。通過深入分析業(yè)務需求、全面評估平臺功能、審慎考察技術(shù)架構(gòu)、嚴格確保數(shù)據(jù)安全、合理控制成本并關(guān)注服務提供商的生態(tài)系統(tǒng),企業(yè)可以更加科
    的頭像 發(fā)表于 10-14 10:06 ?541次閱讀

    怎樣選擇合適的MOSFET

    怎樣選擇合適的MOSFET
    的頭像 發(fā)表于 10-01 08:01 ?664次閱讀
    怎樣<b class='flag-5'>選擇</b><b class='flag-5'>合適</b>的MOSFET

    顯存技術(shù)不斷升級,AI計算中如何選擇合適的顯存

    和推理過程至關(guān)重要。足夠的顯存容量能夠確保顯卡在執(zhí)行AI任務時能夠同時存儲和操作所需的數(shù)據(jù),避免因為顯存不足而導致的性能瓶頸。 ? 在AI 計算中如何選擇合適的顯存 ? 顯存對
    的頭像 發(fā)表于 09-11 00:11 ?4783次閱讀

    如何選擇合適的過載保護器

    選擇合適的過載保護器是確保電氣系統(tǒng)安全穩(wěn)定運行的關(guān)鍵步驟。以下將詳細闡述如何選擇合適的過載保護器,包括考慮的因素、選擇步驟以及注意事項。
    的頭像 發(fā)表于 09-06 11:53 ?2279次閱讀

    太陽能應用選擇合適的太陽能電池充電器

    電子發(fā)燒友網(wǎng)站提供《太陽能應用選擇合適的太陽能電池充電器.pdf》資料免費下載
    發(fā)表于 09-04 09:54 ?0次下載
    <b class='flag-5'>為</b>太陽能應用<b class='flag-5'>選擇</b><b class='flag-5'>合適</b>的太陽能電池充電器

    如何選擇合適的邊緣ai分析一體機解決方案

    的解決方案,成為企業(yè)決策者亟需解決的問題。本文將從需求分析、技術(shù)考量、生態(tài)兼容及未來可擴展性四個方面,探討如何科學合理地選擇合適的邊緣AI分析一體機。一、明確需求分析
    的頭像 發(fā)表于 08-08 15:25 ?611次閱讀
    如何<b class='flag-5'>選擇</b><b class='flag-5'>合適</b>的邊緣<b class='flag-5'>ai</b>分析一體機解決方案