一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

加速邊緣設(shè)備中計(jì)算機(jī)視覺和語音的AI推理模型

星星科技指導(dǎo)員 ? 來源:嵌入式計(jì)算設(shè)計(jì) ? 作者:Saumitra Jagdale ? 2022-07-11 11:07 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

隨著我們朝著創(chuàng)建更復(fù)雜、更高效的 AI 應(yīng)用程序的方向發(fā)展,加速 AI 推理模型已成為一項(xiàng)重要任務(wù)。靈活和完整的人工智能輔助是在快速增長的人工智能領(lǐng)域取得成功的關(guān)鍵組成部分。

RISC-V 被設(shè)計(jì)成模塊化的,有幾個基本的部分和可能的補(bǔ)充。ISA 基礎(chǔ)和擴(kuò)展是工業(yè)界、學(xué)術(shù)界和研究界共同努力的結(jié)果。指令及其編碼、控制流、寄存器、內(nèi)存和尋址邏輯操作以及輔助都在基礎(chǔ)中指定。有了完整的軟件支持,包括一個通用編譯器,這個基礎(chǔ)就可以創(chuàng)建一個簡化的通用計(jì)算機(jī)。標(biāo)準(zhǔn)擴(kuò)展旨在與所有標(biāo)準(zhǔn)基礎(chǔ)以及彼此一起運(yùn)行,而不會引起任何沖突。

Deep Vision ARA-1 處理器圍繞完整的軟件工具套件構(gòu)建,是需要高計(jì)算、模型靈活性和能源經(jīng)濟(jì)性的邊緣應(yīng)用的明確選擇。該解決方案還旨在支持當(dāng)今最復(fù)雜和最具成本效益的邊緣人工智能應(yīng)用程序,同時消耗最少的電量。

RISC-V 計(jì)算的創(chuàng)始人和領(lǐng)導(dǎo)者SiFive宣布,邊緣 AI 處理器公司Deep Vision將把 SiFive RISC-V 處理器 IP 整合到其下一代推理加速器中,以在邊緣設(shè)備中實(shí)現(xiàn)更完整的計(jì)算機(jī)視覺和語音。 結(jié)合這兩項(xiàng)超高效服務(wù),Deep Vision 將授權(quán) SiFive Intelligence X280 和 SiFive Essentia S7 處理器 IP,以提高其解決方案的靈活性和功能性,讓客戶能夠?yàn)橹腔鄢鞘?、智慧零售、汽車和其他行業(yè)創(chuàng)建應(yīng)用程序。

借助 SiFive Intelligence X280 處理器,Deep Vision 加速器現(xiàn)在能夠支持更廣泛的神經(jīng)網(wǎng)絡(luò)模型并包括浮點(diǎn)優(yōu)化。SiFive Intelligence 處理器上的 SiFive Intelligence Extensions 支持 TensorFlow Lite 和各種 AI/ML 數(shù)據(jù)格式,包括 BFLOAT16。

SiFive Intelligence X280 處理器作為應(yīng)用級 AI 處理器的靈活性和可編程性擴(kuò)展了 Deep Vision 加速器的成熟功能和性能,以快速支持硬件中新的和不斷發(fā)展的 AI 推理模型,以及圖像縮放、顏色轉(zhuǎn)換等 AI 預(yù)處理任務(wù), 和白噪聲減法。

與其他 SiFive RISC-V 處理器一起,SiFive Essential S7 處理器提供實(shí)時、確定性處理能力,以允許在異構(gòu)計(jì)算集群中執(zhí)行命令和控制應(yīng)用程序。SiFive Essential S7 處理器架構(gòu)具有更好的安全性和實(shí)時確定性,同時提供高效的每瓦性能,使其成為對延遲敏感的邊緣計(jì)算應(yīng)用程序的理想選擇。

將 SiFive Intelligence RISC-V 處理器的特性與 Deep Vision 推理加速器相結(jié)合,是為快速增長的 AI 處理器行業(yè)快速高效地制造新硬件的自然方式。SiFive Intelligence X280 中實(shí)施的 SiFive Intelligence Extensions 和 RISC-V Vectors 非常適合當(dāng)前 AI 應(yīng)用程序的需求。得益于 SiFive 行業(yè)領(lǐng)先的 RISC-V 處理器 IP 組合,SiFive 具有獨(dú)特的優(yōu)勢,可以有效地幫助 AI 公司構(gòu)建以市場為中心的系統(tǒng)。

此外,憑借一流的 11+ SPECint2k6/GHz 基準(zhǔn)測試結(jié)果,SiFive Performance P650 將其范圍擴(kuò)展到了極高端領(lǐng)域,使其成為最高性能的可授權(quán) RISC-V 處理器。SiFive Performance P650 具有多達(dá) 16 個內(nèi)核的多核、多集群 CPU 配置和最近批準(zhǔn)的 Hypervisor 擴(kuò)展,可提供可擴(kuò)展的性能。隨著時間的推移,SiFive 計(jì)劃擴(kuò)展其路線圖,以包括在單個 SoC 中支持 128 個或更多內(nèi)核的多集群功能。

RISC-V 加速當(dāng)前的 AI 推理模型

SiFive 將 RISC-V 處理器 IP 引入其下一代 AI 推理加速器,為邊緣設(shè)備中的計(jì)算機(jī)視覺和語音提供更快、更高效的計(jì)算能力。RISC-V 處理器的高靈活性和強(qiáng)大功能使客戶能夠以比傳統(tǒng)技術(shù)更簡單和更快的速度創(chuàng)建智能城市、智能零售和汽車等復(fù)雜的人工智能應(yīng)用程序。

審核編輯:郭婷

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報(bào)投訴
  • 處理器
    +關(guān)注

    關(guān)注

    68

    文章

    19882

    瀏覽量

    234967
  • soc
    soc
    +關(guān)注

    關(guān)注

    38

    文章

    4385

    瀏覽量

    222616
  • AI
    AI
    +關(guān)注

    關(guān)注

    88

    文章

    35041

    瀏覽量

    279220
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點(diǎn)推薦

    模型推理顯存和計(jì)算量估計(jì)方法研究

    上進(jìn)行了實(shí)驗(yàn)。實(shí)驗(yàn)結(jié)果表明,所提出的估計(jì)方法具有較高的準(zhǔn)確性和實(shí)用性。 五、結(jié)論 本文針對大模型推理的顯存和計(jì)算量估計(jì)問題,提出了基于模型結(jié)構(gòu)和硬件
    發(fā)表于 07-03 19:43

    詳解 LLM 推理模型的現(xiàn)狀

    領(lǐng)域的最新研究進(jìn)展,特別是自DeepSeekR1發(fā)布后興起的推理時間計(jì)算擴(kuò)展相關(guān)內(nèi)容。在LLM中實(shí)施和改進(jìn)推理簡單來說,基于LLM的推理模型是一種旨在通過生成中間
    的頭像 發(fā)表于 04-03 12:09 ?466次閱讀
    詳解 LLM <b class='flag-5'>推理模型</b>的現(xiàn)狀

    英偉達(dá)GTC25亮點(diǎn):NVIDIA Dynamo開源庫加速并擴(kuò)展AI推理模型

    DeepSeek-R1 上的吞吐量提高了 30 倍 NVIDIA 發(fā)布了開源推理軟件 NVIDIA Dynamo,旨在以高效率、低成本加速并擴(kuò)展 AI 工廠中的 AI
    的頭像 發(fā)表于 03-20 15:03 ?640次閱讀

    NVIDIA 宣布推出 DGX Spark 個人 AI 計(jì)算機(jī)

    的 DGX? 個人 AI 超級計(jì)算機(jī)。 ? DGX Spark(前身為 Project DIGITS)支持 AI 開發(fā)者、研究人員、數(shù)據(jù)科學(xué)家和學(xué)生,在臺式電腦上對大模型進(jìn)行原型設(shè)計(jì)、
    發(fā)表于 03-19 09:59 ?317次閱讀
       NVIDIA 宣布推出 DGX Spark 個人 <b class='flag-5'>AI</b> <b class='flag-5'>計(jì)算機(jī)</b>

    英飛凌邊緣AI平臺通過Ultralytics YOLO模型增加對計(jì)算機(jī)視覺的支持

    計(jì)算機(jī)視覺的支持,擴(kuò)大了當(dāng)前對音頻、雷達(dá)和其他時間序列信號數(shù)據(jù)的支持范圍。在增加這項(xiàng)支持后,該平臺將能夠用于開發(fā)低功耗、低內(nèi)存的邊緣AI視覺
    的頭像 發(fā)表于 03-11 15:11 ?376次閱讀
    英飛凌<b class='flag-5'>邊緣</b><b class='flag-5'>AI</b>平臺通過Ultralytics YOLO<b class='flag-5'>模型</b>增加對<b class='flag-5'>計(jì)算機(jī)</b><b class='flag-5'>視覺</b>的支持

    科大訊飛發(fā)布星火深度推理模型X1

    今天,科大訊飛正式發(fā)布星火深度推理模型X1,星火4.0 Turbo底座全面升級,首發(fā)星火語音同傳大模型
    的頭像 發(fā)表于 01-15 15:54 ?709次閱讀

    科大訊飛即將發(fā)布訊飛星火深度推理模型X1

    ,標(biāo)志著科大訊飛在AI技術(shù)領(lǐng)域的又一次重大突破。訊飛星火深度推理模型X1將為科大訊飛的智能體產(chǎn)品注入更為強(qiáng)大的AI能力,使其在處理復(fù)雜任務(wù)和進(jìn)行深度推理時表現(xiàn)出色。 據(jù)悉,訊飛星火深度
    的頭像 發(fā)表于 01-08 10:30 ?744次閱讀

    智譜推出深度推理模型GLM-Zero預(yù)覽版

    近日,智譜公司正式發(fā)布了其深度推理模型GLM-Zero的預(yù)覽版——GLM-Zero-Preview。這款模型標(biāo)志著智譜在擴(kuò)展強(qiáng)化學(xué)習(xí)技術(shù)訓(xùn)練推理模型方面的重大突破,成為其首個專注于增強(qiáng)AI
    的頭像 發(fā)表于 01-03 10:42 ?492次閱讀

    智譜GLM-Zero深度推理模型預(yù)覽版正式上線

    近日,智譜公司宣布其深度推理模型GLM-Zero的初代版本——GLM-Zero-Preview已正式上線。這款模型是智譜首個基于擴(kuò)展強(qiáng)化學(xué)習(xí)技術(shù)訓(xùn)練的推理模型,標(biāo)志著智譜在AI
    的頭像 發(fā)表于 01-02 10:55 ?518次閱讀

    阿里云發(fā)布開源多模態(tài)推理模型QVQ-72B-Preview

    近日,阿里云宣布了一項(xiàng)重大技術(shù)突破,正式發(fā)布了業(yè)界首個開源多模態(tài)推理模型——QVQ-72B-Preview。這一模型的問世,標(biāo)志著阿里云在AI技術(shù)領(lǐng)域的又一次重要飛躍
    的頭像 發(fā)表于 12-27 10:28 ?599次閱讀

    AI模型部署邊緣設(shè)備的奇妙之旅:目標(biāo)檢測模型

    1、簡介 人工智能圖像識別是人工智能領(lǐng)域的一個重要分支,它涉及計(jì)算機(jī)視覺、深度學(xué)習(xí)、機(jī)器學(xué)習(xí)等多個領(lǐng)域的知識和技術(shù)。圖像識別主要是處理具有一定復(fù)雜性的信息。計(jì)算機(jī)采用與人類類似的圖像識別原理,即對
    發(fā)表于 12-19 14:33

    AI模型部署邊緣設(shè)備的奇妙之旅:如何在邊緣端部署OpenCV

    圖像的質(zhì)量,使得圖像更適合人類觀察或者為后續(xù)的分析做準(zhǔn)備。 方法:通常涉及像素級別的操作,比如調(diào)整亮度、對比度、顏色校正、濾波(如高斯模糊、中值濾波去噪)、邊緣檢測、形態(tài)學(xué)變換(膨脹、腐蝕)等。 計(jì)算機(jī)視覺
    發(fā)表于 12-14 09:31

    初創(chuàng)公司SEA.AI利用NVIDIA邊緣AI計(jì)算機(jī)視覺技術(shù)變革航海安全系統(tǒng)

    總部位于奧地利林茨的初創(chuàng)公司正在利用 NVIDIA 邊緣 AI計(jì)算機(jī)視覺技術(shù)變革航海安全系統(tǒng),讓每一次出海變得更安全。
    的頭像 發(fā)表于 09-09 09:32 ?907次閱讀

    計(jì)算機(jī)視覺技術(shù)的AI算法模型

    計(jì)算機(jī)視覺技術(shù)作為人工智能領(lǐng)域的一個重要分支,旨在使計(jì)算機(jī)能夠像人類一樣理解和解釋圖像及視頻中的信息。為了實(shí)現(xiàn)這一目標(biāo),計(jì)算機(jī)視覺技術(shù)依賴于
    的頭像 發(fā)表于 07-24 12:46 ?1788次閱讀

    機(jī)器視覺計(jì)算機(jī)視覺有什么區(qū)別

    機(jī)器視覺計(jì)算機(jī)視覺是兩個密切相關(guān)但又有所區(qū)別的概念。 一、定義 機(jī)器視覺 機(jī)器視覺,又稱為計(jì)算機(jī)
    的頭像 發(fā)表于 07-16 10:23 ?1154次閱讀