一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

亞馬遜Alexa運(yùn)算遷移至自家芯片

璟琰乀 ? 來源:cnBeta.COM ? 作者:cnBeta.COM ? 2020-11-16 16:40 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

亞馬遜宣布將人工智能處理遷移到自家定制的 AWS Inferentia 芯片。這意味著亞馬遜最大的推理(inferencing)服務(wù)(例如語音助手 Alexa)將交由更快、更專業(yè)的芯片進(jìn)行處理,而非基于 NVIDIA 的多用途 GPU。

亞馬遜已經(jīng)將大約 80% 的 Alexa 語音助手處理遷移到 Elastic Compute Cloud (EC2) Inf1 實(shí)例上處理。和使用傳統(tǒng) GPU 的 G4 實(shí)例相比,Inf1 實(shí)例將吞吐量提高了 30%,成本下降了 45%。亞馬遜認(rèn)為,它們是推斷自然語言和語音處理工作負(fù)載的最佳實(shí)例。

Alexa 的工作方式是這樣的:實(shí)際的智能音箱(或者揚(yáng)聲器)可以不做任何操作,所有任務(wù)都交由 AWS 處理器完成?;蛘吒鼫?zhǔn)確的說,一旦 Echo 設(shè)備上的芯片檢測到喚醒詞,系統(tǒng)就會啟動。。它開始實(shí)時(shí)將音頻流傳輸?shù)皆啤T跀?shù)據(jù)中心的某個(gè)地方,音頻被轉(zhuǎn)換為文本(這是推理的一個(gè)示例)。然后從文本中提取含義(另一個(gè)推理實(shí)例)完成所需要的所有操作,例如獲取當(dāng)天的天氣信息等等。

Alexa 完成您的請求后,她需要將答案傳達(dá)給您。然后,腳本被轉(zhuǎn)換為音頻文件(另一個(gè)推理示例),并發(fā)送到您的Echo設(shè)備?;匾舨シ盼募员阌谀愠鲂械臅r(shí)候是否決定帶上雨傘。顯然,推理是工作的重要組成部分。毫不奇怪,亞馬遜投入了數(shù)百萬美元來制造完美的推理芯片。

Inferentia 芯片由四個(gè) NeuronCore 組成。每個(gè)實(shí)現(xiàn)一個(gè)“高性能脈動陣列矩陣乘法引擎”。每個(gè)NeuronCore或多或少地由以線性,獨(dú)立方式處理數(shù)據(jù)的大量小型數(shù)據(jù)處理單元(DPU)組成。每個(gè)Inferentia芯片還具有巨大的緩存,從而提高了延遲。

責(zé)任編輯:haq

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報(bào)投訴
  • 芯片
    +關(guān)注

    關(guān)注

    460

    文章

    52520

    瀏覽量

    440998
  • 人工智能
    +關(guān)注

    關(guān)注

    1807

    文章

    49029

    瀏覽量

    249562
  • 亞馬遜
    +關(guān)注

    關(guān)注

    8

    文章

    2696

    瀏覽量

    84681
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點(diǎn)推薦

    樂鑫科技自研聲學(xué)前端算法通過亞馬遜 Alexa 認(rèn)證,啟明云端樂鑫科技代理商

    樂鑫科技AI實(shí)驗(yàn)室自主研發(fā)的聲學(xué)前端(AudioFront-End,AFE)算法已通過亞馬遜Alexa內(nèi)置設(shè)備的SoftwareAudioFront-End認(rèn)證。長久以來,樂鑫不僅致力于為AIoT
    的頭像 發(fā)表于 05-15 18:08 ?428次閱讀
    樂鑫科技自研聲學(xué)前端算法通過<b class='flag-5'>亞馬遜</b> <b class='flag-5'>Alexa</b> 認(rèn)證,啟明云端樂鑫科技代理商

    Arm助力開發(fā)者加速遷移至Arm架構(gòu)云平臺 Arm云遷移資源分享

    隨著基于 Arm 架構(gòu)的云實(shí)例日益擴(kuò)展,越來越多的用戶正從傳統(tǒng)平臺遷移至 Arm 平臺上。
    的頭像 發(fā)表于 04-09 18:23 ?666次閱讀

    亞馬遜升級版Alexa推遲發(fā)布

    據(jù)悉,亞馬遜計(jì)劃在2月26日舉辦的一場活動中,首次展示其基于人工智能技術(shù)的全新升級版Alexa。然而,令人意外的是,這款備受期待的升級版Alexa預(yù)計(jì)至少要到3月31日或更晚才會正式與消費(fèi)者見面
    的頭像 發(fā)表于 02-17 14:02 ?704次閱讀

    億滋國際攜手亞馬遜云科技,全面加速數(shù)字化轉(zhuǎn)型與增長戰(zhàn)略步伐

    (億滋國際)建立戰(zhàn)略合作伙伴關(guān)系,旨在助力加強(qiáng)其全公司范圍內(nèi)的數(shù)字化創(chuàng)新。億滋國際選擇亞馬遜云科技作為其戰(zhàn)略云服務(wù)提供商,并已將數(shù)百個(gè)工作負(fù)載遷移至亞馬遜云科技。通過利用亞馬遜云科技行
    發(fā)表于 01-21 11:36 ?198次閱讀

    AKI跨語言調(diào)用庫神助攻C/C++代碼遷移至HarmonyOS NEXT

    /C++代碼快速遷移至HarmonyOS NEXT。憑借卓越的兼容性,AKI已成為廠商與開發(fā)者打造鴻蒙原生應(yīng)用過程中廣泛使用的跨語言調(diào)用解決方案。 AKI是一款專為鴻蒙原生開發(fā)設(shè)計(jì)的FFI(外部函數(shù)接口
    發(fā)表于 01-02 17:08

    亞馬遜云科技發(fā)布Amazon Q Developer,助力工作負(fù)載轉(zhuǎn)型

    )助手,是亞馬遜云科技在推動應(yīng)用遷移和現(xiàn)代化方面邁出的重要一步。 Amazon Q Developer的設(shè)計(jì)初衷,是為了簡化那些復(fù)雜且耗時(shí)的應(yīng)用遷移和現(xiàn)代化項(xiàng)目。通過運(yùn)用先進(jìn)的AI技術(shù),它能夠智能地分析現(xiàn)有系統(tǒng),識別出潛在的
    的頭像 發(fā)表于 12-26 11:32 ?630次閱讀

    Comcast將5G核心網(wǎng)絡(luò)遷移至亞馬遜云科技

    近日,在2024年亞馬遜云科技re:Invent全球大會上,Comcast與亞馬遜云科技共同宣布了一項(xiàng)重大合作成果:Comcast已成功將其5G無線核心網(wǎng)絡(luò)從本地?cái)?shù)據(jù)中心遷移至亞馬遜
    的頭像 發(fā)表于 12-24 14:26 ?458次閱讀

    亞馬遜轉(zhuǎn)向Trainium芯片,全力投入AI模型訓(xùn)練

    近日,亞馬遜宣布了一項(xiàng)重大決策,決定停止Inferentia AI芯片的開發(fā),轉(zhuǎn)而將全部精力投入到Trainium芯片的研發(fā)上,以此作為與英偉達(dá)競爭的新策略。 自2018年進(jìn)軍AI芯片
    的頭像 發(fā)表于 12-13 14:14 ?642次閱讀

    亞馬遜將推新芯片,挑戰(zhàn)英偉達(dá)

    亞馬遜正準(zhǔn)備推出其最新的人工智能芯片,這標(biāo)志著其在半導(dǎo)體技術(shù)方面數(shù)十億美元的投資邁出了重要一步。目標(biāo)是減少對NVIDIA的依賴,后者目前在AI處理器市場占據(jù)主導(dǎo)地位。亞馬遜的云計(jì)算部門
    的頭像 發(fā)表于 11-15 01:08 ?607次閱讀
    <b class='flag-5'>亞馬遜</b>將推新<b class='flag-5'>芯片</b>,挑戰(zhàn)英偉達(dá)

    亞馬遜基于人工智能的Alexa發(fā)布計(jì)劃延期至明年

    11月1日外媒報(bào)道稱,亞馬遜已將基于人工智能技術(shù)全新打造的正版Alexa發(fā)布計(jì)劃延期至明年。   亞馬遜最初于去年9月公開了新版Alexa的規(guī)劃,意在通過集成AI大模型,顯著增強(qiáng)
    的頭像 發(fā)表于 11-01 15:19 ?1013次閱讀

    從TMS320DM642遷移至TMS320DM648/DM6437

    電子發(fā)燒友網(wǎng)站提供《從TMS320DM642遷移至TMS320DM648/DM6437.pdf》資料免費(fèi)下載
    發(fā)表于 10-14 09:17 ?0次下載
    從TMS320DM642<b class='flag-5'>遷移至</b>TMS320DM648/DM6437

    恩智浦半導(dǎo)體攜手亞馬遜云科技,共創(chuàng)新紀(jì)元半導(dǎo)體創(chuàng)新之路

    的大部分遷移至亞馬遜云科技平臺。這一舉措建立在雙方過去三年成功合作的基礎(chǔ)上,恩智浦半導(dǎo)體將借助亞馬遜云科技的高性能、可擴(kuò)展性及安全可靠的云服務(wù),為汽車、物聯(lián)網(wǎng)、移動通信等多個(gè)領(lǐng)域提供更加先進(jìn)的半導(dǎo)體設(shè)計(jì)解決方案。
    的頭像 發(fā)表于 09-30 15:28 ?1433次閱讀

    如何將CCS 3.x工程遷移至最新的Code Composer Studio? (CCS)

    電子發(fā)燒友網(wǎng)站提供《如何將CCS 3.x工程遷移至最新的Code Composer Studio? (CCS).pdf》資料免費(fèi)下載
    發(fā)表于 09-21 09:28 ?1次下載
    如何將CCS 3.x工程<b class='flag-5'>遷移至</b>最新的Code Composer Studio? (CCS)

    將軟件從8位(字節(jié))可尋址CPU遷移至C28x CPU

    電子發(fā)燒友網(wǎng)站提供《將軟件從8位(字節(jié))可尋址CPU遷移至C28x CPU.pdf》資料免費(fèi)下載
    發(fā)表于 09-06 10:42 ?0次下載
    將軟件從8位(字節(jié))可尋址CPU<b class='flag-5'>遷移至</b>C28x CPU

    如何將IR912路由器從c.inhand.com.cn遷移至iot.inhand.com.cn平臺

    IR912路由器(不帶wifi功能型號)從c.inhand.com.cn遷移至iot.inhand.com.cn平臺(備注:此方式適用于中小規(guī)模設(shè)備遷移)1.登陸c.inhand.com.cn云平臺查看
    發(fā)表于 07-25 06:11