亞馬遜云攜手AI新創(chuàng)企業(yè)Hugging Face，提升AI模型在定制芯片計算性能
據(jù)悉，亞馬遜云服務部門于5月23日宣布，與人工智能新貴Hugging Face達成合作協(xié)議，在定制化計算芯片Inferentia2上以更優(yōu)惠價格運行上千種AI模型。
Hugging Face作為一家估值為45億美元的公司現(xiàn)已成為了眾多AI研究員和開發(fā)者分享Chatbot和相關(guān)軟件的核心平臺，受到亞馬遜、谷歌、英偉達等巨頭的青睞。
據(jù)了解，Hugging Face是開發(fā)者獲取和調(diào)整諸如Meta Platforms的Llama 3等開源AI模型的首選平臺。
當開發(fā)者完成對開源AI模型的調(diào)整后，往往希望能利用此模型驅(qū)動軟件。因此，亞馬遜和Hugging Face決定聯(lián)手，通過在Inferentia2定制化亞馬遜網(wǎng)絡服務（AWS）芯片上實現(xiàn)這一目標。
Hugging Face的產(chǎn)品及增長主管Jeff Boudier表示，對于他們而言，效率至關(guān)重要——即確保盡可能多的用戶能夠運行模型，且以最具性價比的方式進行。
盡管英偉達在訓練模型領(lǐng)域處于領(lǐng)先地位，但AWS堅信其芯片有能力以更低成本運行已訓練好的模型。
AWS人工智能產(chǎn)品負責人Matt Wood指出，用戶可能每月僅需訓練一次這些模型，而實際應用中，可能需要每小時對其進行數(shù)萬次推理，這正是Inferentia2的獨特優(yōu)勢所在。
聲明：本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問題，請聯(lián)系本站處理。
舉報投訴
-
AI
+關(guān)注
關(guān)注
87文章
33554瀏覽量
274203 -
模型
+關(guān)注
關(guān)注
1文章
3464瀏覽量
49819 -
英偉達
+關(guān)注
關(guān)注
22文章
3900瀏覽量
92900 -
亞馬遜
+關(guān)注
關(guān)注
8文章
2690瀏覽量
84314
發(fā)布評論請先 登錄
相關(guān)推薦
首創(chuàng)開源架構(gòu)，天璣AI開發(fā)套件讓端側(cè)AI模型接入得心應手
的端側(cè)部署，Token產(chǎn)生速度提升了40%，讓端側(cè)大模型擁有更高的計算效率和推理性能，使端側(cè)AI交互響應更及時，用戶體驗更貼心。
聯(lián)發(fā)科還
發(fā)表于 04-13 19:52
適用于數(shù)據(jù)中心和AI時代的800G網(wǎng)絡
下降。
InfiniBand助力AI性能提升
在AI工廠中，InfiniBand網(wǎng)絡技術(shù)因其超低延遲和高帶寬，成為大規(guī)模
發(fā)表于 03-25 17:35
FPGA+AI王炸組合如何重塑未來世界：看看DeepSeek東方神秘力量如何預測......
），設計定制化的FPGA架構(gòu)，以優(yōu)化性能和功耗。
2.提升跨領(lǐng)域技能? AI知識儲備：掌握深度學習算法、模型量化和優(yōu)化技術(shù)，以便更好地將
發(fā)表于 03-03 11:21
行業(yè)集結(jié)：共同定制 RK3566 集成 AI 眼鏡的前沿 AR 方案
在技術(shù)革新浪潮席卷全球的當下，一款智能視覺終端設備 —— 以 AI 眼鏡為典型代表，正以革命性姿態(tài)打破物理與數(shù)字世界的藩籬，在虛實交融的界面中搭建起多維度的認知通道。 而深圳市新創(chuàng)
發(fā)表于 02-20 18:44
聚云科技獲亞馬遜云科技生成式AI能力認證
的應用上展現(xiàn)出了卓越的能力。 聚云科技通過整合亞馬遜云科技的先進技術(shù)，從應用范圍確定、模型選擇、數(shù)據(jù)處理、模型調(diào)優(yōu)到應用集成與部署，為
聚云科技榮獲亞馬遜云科技生成式AI能力認證
Bedrock等技術(shù)，從應用范圍、模型選擇、數(shù)據(jù)處理、模型調(diào)優(yōu)到應用集成與部署等方面，助力企業(yè)加速生成式AI應用落地。此外，聚云科技還基于
聚云科技榮獲亞馬遜云科技生成式AI能力認證 助力企業(yè)加速生成式AI應用落地
、數(shù)據(jù)處理、模型調(diào)優(yōu)到應用集成與部署等方面，助力企業(yè)加速生成式AI應用落地。此外，聚云科技還基于亞馬遜云
發(fā)表于 02-14 13:41
?111次閱讀
Hugging Face推出最小AI視覺語言模型
Hugging Face平臺于1月23日發(fā)布博文，推出了兩款令人矚目的輕量級AI模型——SmolVLM-256M-Instruct和SmolVLM-500M-Instruct。 其中
LG AI Research使用亞馬遜云科技開發(fā)AI模型 加快癌癥診斷速度
16日 /美通社/ -- 亞馬遜云科技在2024 re:Invent全球大會上宣布，韓國LG集團旗下人工智能研究中心LG AI Research基于全球領(lǐng)先的
亞馬遜轉(zhuǎn)向Trainium芯片，全力投入AI模型訓練
，亞馬遜AWS推出了兩款芯片：Inferentia和Trainium。其中，Inferentia主要用于AI推理，而Trainium則專注于AI模型
GE醫(yī)療與亞馬遜云科技達成戰(zhàn)略合作，通過生成式AI加速醫(yī)療健康領(lǐng)域轉(zhuǎn)型
醫(yī)療服務提供商優(yōu)化臨床和運營流程，進而提升護理服務質(zhì)量。 ? 近日，GE醫(yī)療（通用電氣醫(yī)療集團）宣布與亞馬遜云科技達成戰(zhàn)略合作伙伴關(guān)系，攜手打造針對醫(yī)療領(lǐng)域
發(fā)表于 08-29 16:38
?362次閱讀
Hugging Face科技公司推出SmolLM系列語言模型
7月22日最新資訊，Hugging Face科技公司在語言模型領(lǐng)域再創(chuàng)新高，正式推出了SmolLM系列——一款專為適應多樣計算資源而設計的緊
亞馬遜云科技與SAP攜手云ERP體驗,引領(lǐng)AI新紀元
近日，全球云計算的領(lǐng)軍者亞馬遜云科技與知名的企業(yè)應用解決方案提供商SAP共同宣布，雙方將擴大戰(zhàn)略合作，共同打造現(xiàn)代化的
亞馬遜云科技攜手SAP通過生成式AI解鎖創(chuàng)新潛力
科技與SAP宣布擴大戰(zhàn)略合作，旨在革新現(xiàn)代化的云ERP體驗，并利用生成式AI為企業(yè)帶來全新功能與效率提升。雙方將共同努力，簡化客戶在
工商網(wǎng)監(jiān)
評論