一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內(nèi)不再提示

加持Meteor Lake,VPU如何成為AI加速的重要砝碼?

科技訊息 ? 來源:科技訊息 ? 作者:科技訊息 ? 2023-05-31 14:56 ? 次閱讀

從ChatGPT引發(fā)的廣泛關注,再到大量的云端AI服務上線,利用人工智能提升效率、優(yōu)化流程正在變得唾手可得。但在大多數(shù)人印象中,AI應用意味著背后龐大的服務器集群夜以繼日的運算,需要將自己的信息共享至云端,這與人們關心的隱私與信息安全背道而馳。

就在COMPUTEX 2023期間,英特爾提出了一種全新的可能性,它可以讓未來每一臺筆記本、臺式機或者其他終端設備,在低功耗的前提下也能擁有不錯的AI算力,而這個算力模塊稱為英特爾VPU。

CPU、GPU不同,英特爾VPU將更專注于AI加速,特別是稀疏化處理的運算,并且具有低功耗、低延遲的諸多特點,不僅可以輕松處理視頻背景虛化、智能語音降噪等判定式AI,加速StableDiffusion這樣生成式AI也沒有問題。

重點是,英特爾已經(jīng)確認下一代處理器MeteorLake將集成VPU,這意味著未來的輕薄本也同樣具備一定的AI算力,實現(xiàn)不曾想象的AI操作。那么究竟是什么樣動力,讓英特爾如此積極的駛向終端AI的新賽道?

AI的質(zhì)變

盡管英特爾以CPU和IDM模式而聞名,但在AI硬件領域英特爾也同樣進行了長時間的積累,例如在CPU中添加AI加速的相關指令集,并在架構上針對AI不斷進行優(yōu)化,已經(jīng)發(fā)展到第四代的英特爾至強可擴展處理器就是其中很好的例子,從2017年開始,至強可擴展處理器就不斷增加了深度學習加速、矩陣計算擴展AMX等功能。

而今,英特爾在AI領域即擁有負責高端深度學習加速器Gaudi系列的Habana Labs,也擁有可以制造低功耗視覺處理單元的Movidius。在大量的AI經(jīng)驗積累下,英特爾開始嘗試讓消費產(chǎn)品涉及AI加速功能。也正是從IceLake架構第10代酷睿開始,CPU開始搭載AI加速單元GNA,用于處理神經(jīng)噪聲抑制、背景模糊等功能判定式AI加速,讓筆記本開始走向智能化。

同時AI需求在近2年內(nèi)變化非常明顯。以降噪功能為例,2年前降噪計算復雜度與現(xiàn)在相比,相差將近50倍。類似StableDiffusion這樣的生成式AI加入,對PC性能需求提升了一個唯獨。如何在不插電的筆記本中流暢運行更高負荷的AI應用成了新問題,VPU正是為了填補這個空白而誕生。

wKgZomR275GAYrI6AACnWDuXSlE231.jpg

即將實裝MeteorLake的英特爾VPU其實已經(jīng)進階到了第三代,這款源自于英特爾全資子公司Movidius的處理模塊最早計劃應用于無人機、相機、VR設備等基于視覺深度學習和AI加速。在2017年,VPU的前身Myriad X就能實現(xiàn)1TOPS的吞吐量,這無疑讓人們對全新的VPU性能表現(xiàn)抱有更多期待。

同時,VPU不是旗艦處理器的獨占功能,它將出現(xiàn)在Meteor Lake的所有SKU中。這意味著VPU帶來的AI加速功能將是處理器一項基礎功能,與集顯、Thunderbolt4等一樣,成為CPU中不可缺少的一部分。

但VPU的加入不代表著之前集成在CPU上的AI技術會劃上句號。恰恰相反,由于AI應用場景的復雜性,英特爾將AI使用場景分成了三個部分,其中CPU負責處理諸如語音降噪、變聲這樣的輕負載、低延遲、高響應的AI加速,GPU負責重負載且對響應需求不高的AI模型加速。VPU正好介于CPU和GPU之間,即擁有低功耗、快速響應的特點,也可以負責基礎的視覺處理,比如流媒體中的手勢識別,背景虛化等等。

wKgaomR275GANlM5AAITb_KjPtY419.jpg

在Meteor Lake中,VPU和CPU、GPU將相輔相成,不同的AI應用場景會指派不同的處理單元應對,確保AI加速效率最大化。同時從功耗上來看,VPU則是要求最低的,次之是CPU,再次之是GPU。VPU的加入能給注重續(xù)航的筆記本在獲得新功能的同時,保證筆記本的續(xù)航和體驗順暢。

wKgZomR275GAbs98AAJBvcrIEtU215.jpg

為此英特爾也特意準備了一個DEMO演示。一款只有集顯的MeteorLake開發(fā)筆記本,在StableDiffusion的文字生成圖片模型內(nèi),僅使用了20秒就完成了工作。這個過程中,MeteorLake的VPU主要承載了VNET模塊的運行,GPU則負責Encoder模塊運行,CPU則負責軟件運行的其他部分,整個系統(tǒng)被得到充分利用,實現(xiàn)了在當下只有依靠高性能獨立顯卡PC才能完成的工作。

軟硬件相輔相成

生成式AI的快速成長自然也會帶來不少問題,比如的AI開發(fā)界面,AI庫以及AI模型標準化或者統(tǒng)一化上需要時間,不同軟件、模型、開源項目之間各自為戰(zhàn),雖然百花齊放,但很難形成統(tǒng)一管理,會影響資源調(diào)用的效率。比如時下熱門的Stable Diffusion也僅誕生于2022年,作為一個開源項目,還有大量的工作需要適配。

在行業(yè)內(nèi)擁有龐大影響力的英特爾深刻了解軟硬件結合的重要性,在宣布VPU進駐MeteorLake的同時,英特爾也已經(jīng)緊鑼密鼓的在軟件層面、軟件合作伙伴方面展開行動。

從軟件層面來看,VPU身后已經(jīng)具備了整套軟件基礎,英特爾OpenVINO工具可以幫助VPU在應對不同領域的AI網(wǎng)絡模型時,進需要通過統(tǒng)一的軟件接口實現(xiàn)。OpenVINO相當于一個包裹,可以幫助應用把底層不同架構之間的異構計算的差異統(tǒng)一封裝,以實現(xiàn)更廣泛的應用適配。

同時英特爾也提供了對目前主流標準的支持,比如通用的網(wǎng)絡視頻格式ONNX,W3C允許通過瀏覽器進行神經(jīng)網(wǎng)絡推理硬件加速的WebNN API,微軟基于DirectX12的機器學習底層推理接口DirectML等等。

wKgaomR275KAGaQTAAEeEdl2xSY202.jpg

同時英特爾也已經(jīng)與軟件開發(fā)商展開緊密合作,包括Adobe、微軟、字節(jié)跳動、騰訊在內(nèi)的100多家軟件開發(fā)商已經(jīng)開始進行AI相關方面的合作。

wKgZomR275OADQYTAAEk3peA3ZQ774.jpg

得益于VPU非常省電的特性,使得許多終端可以在僅使用電池續(xù)航的狀態(tài)下,也能擁有高效的表現(xiàn),原本需要CPU、GPU高功耗合力進行的AI任務,現(xiàn)在僅使用VPU即可完成。比如在執(zhí)行GPU渲染的過程中接通會議電話,通過VPU介入流暢的實現(xiàn)降噪、背景替換等工作。

再比如Adobe上的自動摳圖、濾鏡、文字生成圖片等最新功能,通過VPU運行也已經(jīng)可以獲得很好的效果。另外,Blender、虛幻引擎等軟件也已經(jīng)對VPU展開了適配。

wKgaomR275OAKVA-AAJFoejyaO0300.jpg

在龐大的安裝量推動下,英特爾在產(chǎn)品投向市場之前已經(jīng)做足了軟件層面適配的鋪墊。筆記本VPU與CPU、GPU以及其他功能模塊一起,成為下一代PC的標準配置,也進而推動了整個AI生態(tài)的普及與標準化,從而推動AI應用的持續(xù)發(fā)展,最終實現(xiàn)了良性循環(huán)的局面。

開創(chuàng)AI體驗新局面

在過去兩年中,英特爾進步非常顯著,通過12、13代酷睿的兩代高性能混合架構設計,英特爾已經(jīng)與OEM合作完成了超過700個系統(tǒng)設計,交付了1.2億個高性能混合架構處理芯片,使之在短時間內(nèi)快速普及。

wKgZomR275OADmxJAAHkFDyDqG8002.jpg

但對于英特爾而言這還遠遠不夠,按照英特爾CEO帕特·基辛格提出的IDM2.0戰(zhàn)略,英特爾還會在四年里跨越5個制程工藝節(jié)點,從現(xiàn)在的Intel7邁進MeteorLake開始使用的Intel4,緊接著Intel20A和Intel18A也會相繼到來。

不僅如此,英特爾也將使用第三方代工的制造工藝來完善處理器產(chǎn)品,從MeteorLake開始使用的分離式模塊架構,讓處理器設計不再一體化,而是不同單元會成為不同的獨立設計模塊、不同的制造工藝和升級策略,實現(xiàn)效率的最大化,英特爾VPU的加入就很好的印證了這一點。

wKgaomR275SAfSoAAAEGGnSKaVU855.jpg

在即將到來的MeteorLake上,英特爾將從另一個維度提升處理器的每瓦性能表現(xiàn),讓處理器獲得表現(xiàn)更好的CPU、GPU,并加入獨立的VPU單元提升PC整體對AI性能優(yōu)化,從而帶動PC體驗的又一輪升級。

在過去幾年中,我們經(jīng)歷了Wi-Fi6、處理器混合架構、Thunderbolt4接口的快速普及,均得益于英特爾將新技術無保留的放入主流的處理器設計中。英特爾VPU則成為下一個增長點,憑借著新一輪處理器升級帶來的龐大體量,不插電、低功耗環(huán)境下使用流暢的AI加速體驗,無疑會給現(xiàn)有的AI軟件生態(tài)、AI標準制定帶來全新的變化。英特爾也將再次成為整個PC軟硬件生態(tài)升級的重要推手。

審核編輯黃宇

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 英特爾
    +關注

    關注

    61

    文章

    10141

    瀏覽量

    173579
  • cpu
    cpu
    +關注

    關注

    68

    文章

    11011

    瀏覽量

    215192
  • AI
    AI
    +關注

    關注

    87

    文章

    33554

    瀏覽量

    274208
  • vpu
    vpu
    +關注

    關注

    0

    文章

    15

    瀏覽量

    11890
收藏 人收藏

    評論

    相關推薦

    【「零基礎開發(fā)AI Agent」閱讀體驗】+ 入門篇學習

    很高興又有機會學習ai技術,這次試讀的是「零基礎開發(fā)AI Agent」,作者葉濤、管鍇、張心雨。 大模型的普及是近三年來的一件大事,萬物皆可大模型已成為趨勢。作為大模型開發(fā)應用中重要
    發(fā)表于 05-02 09:26

    Intel-Altera FPGA:通信行業(yè)的加速引擎,開啟高速互聯(lián)新時代

    :Silver Lake接管后,Altera將重點發(fā)展AI驅動的新興市場(如邊緣計算、機器人),并整合Agilex品牌下的高中低端產(chǎn)品,以提升市場競爭力。四、未來展望技術演進:預計將加速推進Agilex系列迭代
    發(fā)表于 04-25 10:19

    在英特爾酷睿Ultra AI PC上部署多種圖像生成模型

    全新英特爾酷睿Ultra 200V系列處理器對比上代Meteor Lake,升級了模塊化結構、封裝工藝,采用全新性能核與能效核、英特爾硬件線程調(diào)度器、Xe2微架構銳炫GPU、第四代NPU等,由此也帶來了CPU性能提升18%,GPU性能提升30%,整體功耗降低50%,以及1
    的頭像 發(fā)表于 04-02 15:47 ?263次閱讀
    在英特爾酷睿Ultra <b class='flag-5'>AI</b> PC上部署多種圖像生成模型

    為什么無法從源代碼推斷OpenVINO?構建中的VPU?

    為什么無法從源代碼推斷OpenVINO?構建中的 VPU
    發(fā)表于 03-06 07:12

    FakeQuantize不支持VPU插件嗎?

    “FakeQuantize”層不受 VPU 插件支持。
    發(fā)表于 03-06 07:01

    FPGA+AI王炸組合如何重塑未來世界:看看DeepSeek東方神秘力量如何預測......

    的發(fā)展,加速創(chuàng)新和降低成本。 總之,F(xiàn)PGA與AI的結合正在重塑芯片生態(tài),推動技術融合、應用拓展和產(chǎn)業(yè)變革。未來,F(xiàn)PGA將在AI加速、邊緣計算和高性能計算等領域發(fā)揮
    發(fā)表于 03-03 11:21

    當我問DeepSeek AI爆發(fā)時代的FPGA是否重要?答案是......

    AI時代,F(xiàn)PGA(現(xiàn)場可編程門陣列)具有極其重要的地位,主要體現(xiàn)在以下幾個方面: 1.硬件加速與高效能 ? 并行處理能力:FPGA內(nèi)部由大量可編程邏輯單元組成,能夠實現(xiàn)高度并行的數(shù)據(jù)處理。這種
    發(fā)表于 02-19 13:55

    Gupshup加速企業(yè)AI應用進程

    Gupshup-Gupshup推出預構建、行業(yè)訓練有素的多模態(tài)AI代理,加速企業(yè)AI應用進程 印度尼西亞雅加達2025年2月14日?/美通社/ -- 全球領先的對話式AI平臺Gupsh
    的頭像 發(fā)表于 02-14 16:04 ?226次閱讀

    NVIDIA AI加速推進藥物研發(fā)

    在當前的醫(yī)療健康領域,AI重要性愈發(fā)凸顯。NVIDIA AI加速推進藥物研發(fā),致力于減少藥物的研發(fā)時間和成本,使更多的老年患者能夠更快獲得關鍵治療。
    的頭像 發(fā)表于 11-19 16:07 ?512次閱讀

    英特爾計劃明年AI PC出貨一億臺

    目標相較于原先2024年4000萬臺的目標有了大幅提升。這些AI PC將由英特爾的AI處理器驅動,其中大部分將基于去年年底推出的Meteor Lake平臺,該平臺今年的出貨量已達到了2
    的頭像 發(fā)表于 10-31 14:26 ?723次閱讀

    AI for Science:人工智能驅動科學創(chuàng)新》第4章-AI與生命科學讀后感

    高效地篩選出具有潛力的藥物候選分子,加速新藥上市的進程。在基因測序與編輯領域,AI技術將提高基因數(shù)據(jù)的處理速度和準確性,為個性化醫(yī)療和精準醫(yī)療提供有力支持。此外,AI技術還將推動生命科學在其他領域的應用,如
    發(fā)表于 10-14 09:21

    NVIDIA與思科合作打造企業(yè)級生成式AI基礎設施

    由 NVIDIA 加速計算平臺、NVIDIA AI Enterprise 軟件和 NVIDIA NIM 推理微服務加持的思科 Nexus HyperFabric AI 集群解決方案在
    的頭像 發(fā)表于 10-10 09:35 ?625次閱讀

    Lunar Lake:NPU性能全面提升,能耗也大幅降低,綜合AI算力提升至120TOPS

    英特爾CEO帕特·基辛格在COMPUTEX 2024上發(fā)表主題演講,正式公布了下一代面向AI PC的移動處理器Lunar Lake,不僅CPU、GPU、NPU性能全面提升,能耗也大幅降低,綜合AI
    的頭像 發(fā)表于 06-05 15:54 ?8864次閱讀
    Lunar <b class='flag-5'>Lake</b>:NPU性能全面提升,能耗也大幅降低,綜合<b class='flag-5'>AI</b>算力提升至120TOPS

    在英特爾酷睿Ultra處理器上優(yōu)化和部署YOLOv8模型

    英特爾 酷睿 Ultra處理器是英特爾公司推出的一個高端處理器品牌,其第一代產(chǎn)品基于Meteor Lake架構,使用Intel 4制程,單顆芯片封裝了 CPU、GPU(Intel Arc Graphics)和 NPU(Intel AI
    的頭像 發(fā)表于 05-30 17:16 ?2688次閱讀
    在英特爾酷睿Ultra處理器上優(yōu)化和部署YOLOv8模型

    “攜手走進AI時代” Meteor Lake新品發(fā)布會

    2024年5月22日,深圳市吉方工控有限公司、英特爾(中國)有限公司聯(lián)合主辦的“攜手走進AI時代”Meteor Lake新品發(fā)布會,在深圳市機場希爾頓逸林酒店盛大召開。本次發(fā)布會,吉方工控展示了
    發(fā)表于 05-23 16:38 ?319次閱讀
    “攜手走進<b class='flag-5'>AI</b>時代” <b class='flag-5'>Meteor</b> <b class='flag-5'>Lake</b>新品發(fā)布會