一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

訓(xùn)練AI究竟是在本地還是云端更好呢

戴爾企業(yè)級(jí)解決方案 ? 來(lái)源:戴爾企業(yè)級(jí)解決方案 ? 2024-07-19 10:59 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

急得滿頭大汗的小王看向悠閑喝茶的小李道:你怎么不緊不慢的?剛剛主任發(fā)的緊急任務(wù)做完了?

小李得意的說(shuō):這年頭,偷偷用一下AI就搞定啦~

一旁的小張插進(jìn)來(lái):你還敢用!不怕安全部門找你??!

小王聽(tīng)罷,還是老老實(shí)實(shí)埋頭苦干吧。

隨著各種AI“超級(jí)助手”的不斷升級(jí),各行各業(yè)的員工使用其幫助提高工作效率的比例可能比想象中高得多。

根據(jù)微軟和領(lǐng)英聯(lián)合開(kāi)展的一項(xiàng)調(diào)查顯示,自今年5月起到過(guò)去的6個(gè)月里,全球78%的知識(shí)型員工秘密地將自己的AI工具(BYOAI)帶入到工作中,且這一現(xiàn)象在中小型公司中更為常見(jiàn)(80%)。

雖然這種方式提高了效率,但難以忽視一些關(guān)鍵信息被放在公共模型中帶來(lái)的?險(xiǎn)。幸運(yùn)的是,眾多企業(yè)意識(shí)到采用人工智能的重要性,將重點(diǎn)轉(zhuǎn)向通過(guò)實(shí)施AI實(shí)現(xiàn)利益最大化的發(fā)展戰(zhàn)略。不過(guò),在進(jìn)行訓(xùn)練階段又陷入了兩難:究竟在本地,還是云端更好呢?

有些企業(yè)選擇了云——能夠動(dòng)態(tài)調(diào)整計(jì)算資源以適應(yīng)訓(xùn)練變化的靈活性給眾多管理者會(huì)心一擊。其次,云端配備的高性能GPU、TPU等加速器,能夠高效處理大規(guī)模數(shù)據(jù)集和復(fù)雜模型,加快訓(xùn)練速度;易于訪問(wèn)與協(xié)作、通常集成了多種自動(dòng)化工具和服務(wù)的云平臺(tái)也極大地簡(jiǎn)化了開(kāi)發(fā)流程;并且,由于無(wú)需維護(hù)硬件設(shè)施,在云端訓(xùn)練AI更具經(jīng)濟(jì)效益。

但是,在云端訓(xùn)練的缺點(diǎn)也不少:數(shù)據(jù)傳輸時(shí)可能消耗大量的時(shí)間和帶寬;盡管采取嚴(yán)格的安全措施,卻仍有隱私泄露的風(fēng)險(xiǎn);當(dāng)網(wǎng)絡(luò)延遲或中斷時(shí),可能中斷訓(xùn)練過(guò)程,影響效率;對(duì)于高度定制化的軟硬件需求有一定限制,且在模型訓(xùn)練好后,將模型部署到本地或其他環(huán)境時(shí),可能會(huì)遇到兼容性和優(yōu)化問(wèn)題。

于是,一些企業(yè)選擇可以更好地控制數(shù)據(jù)與成本,具有網(wǎng)絡(luò)獨(dú)立性,可完全根據(jù)需求定制化硬件和軟件環(huán)境,并可直接監(jiān)控和調(diào)試訓(xùn)練過(guò)程、能夠無(wú)懼延遲及時(shí)反饋問(wèn)題的本地部署。

然而,本地訓(xùn)練同樣存在一些問(wèn)題——硬件資源固定、計(jì)算資源有限;需要定期維護(hù)與升級(jí)設(shè)備,增加額外的時(shí)間和成本負(fù)擔(dān);進(jìn)行大規(guī)模訓(xùn)練時(shí)可能增加能源消耗和冷卻成本;不便于協(xié)作等。

同時(shí)兼顧云和本地優(yōu)勢(shì)的混合云,或是最優(yōu)選。

采用混合云訓(xùn)練AI的一般步驟和考慮因素有:

●架構(gòu)設(shè)計(jì):設(shè)計(jì)一個(gè)能夠跨越本地?cái)?shù)據(jù)中心和公有云的混合云架構(gòu)至關(guān)重要。通常涉及構(gòu)建或利用現(xiàn)有的Kubernetes集群,確保本地集群與云服務(wù)商的容器服務(wù)兼容。

●數(shù)據(jù)管理與遷移:使用數(shù)據(jù)同步工具或服務(wù)在本地與云端之間高效地移動(dòng)或緩存數(shù)據(jù),確保數(shù)據(jù)一致性的同時(shí),也能根據(jù)訓(xùn)練需求動(dòng)態(tài)調(diào)整數(shù)據(jù)位置。

●模型開(kāi)發(fā)與訓(xùn)練:在本地或云上開(kāi)發(fā)AI模型,利用云服務(wù)商提供的AI開(kāi)發(fā)平臺(tái)和工具進(jìn)行模型訓(xùn)練??梢栽诒镜剡M(jìn)行初步測(cè)試和調(diào)試,然后利用公有云的彈性GPU資源進(jìn)行大規(guī)模并行訓(xùn)練。

●彈性資源擴(kuò)展:根據(jù)訓(xùn)練任務(wù)的需求,動(dòng)態(tài)擴(kuò)展公有云商的計(jì)算資源。如在需要大量計(jì)算是自動(dòng)或手動(dòng)增加云上GPU實(shí)例的數(shù)量,訓(xùn)練完成后釋放資源以降低成本。

●模型推理與部署:訓(xùn)練好的模型可以在混合環(huán)境中部署,既可以在本地進(jìn)行低延遲推理,也可以部署到公有云上,利用云服務(wù)的全球分布特性服務(wù)于不同地區(qū)的用戶。

●監(jiān)控與優(yōu)化:實(shí)施全面的監(jiān)控系統(tǒng),跟蹤模型訓(xùn)練過(guò)程中的資源使用情況、性能指標(biāo)和成本消耗,不斷優(yōu)化模型訓(xùn)練效率和成本效益。

●安全與合規(guī):確保在整個(gè)混合云架構(gòu)中實(shí)施嚴(yán)格的數(shù)據(jù)加密、訪問(wèn)控制和合規(guī)措施,特別是在數(shù)據(jù)傳輸和存儲(chǔ)過(guò)程中,保護(hù)敏感信息不被泄露。

打通云上云下

讓“魚和熊掌兼得”

作為業(yè)界最靈活,最安全和高效的橫向擴(kuò)展文件存儲(chǔ)平臺(tái)之一,PowerScale是戴爾AI解決方案整體架構(gòu)中最重要的基礎(chǔ)。聚合了多個(gè)節(jié)點(diǎn)的性能,PowerScale可以完全滿足AI的存儲(chǔ)性能需求,不僅能夠增強(qiáng)模型訓(xùn)練加載GPU的性能,同時(shí)還能提供先進(jìn)的、經(jīng)過(guò)驗(yàn)證的可用性、數(shù)據(jù)保護(hù)、安全性和多租戶等功能。并且,由于能夠輕松擴(kuò)充數(shù)十PB,可大量并發(fā)、就地分析、自動(dòng)分層和簡(jiǎn)單管理,PowerScale對(duì)于基于文本的模型訓(xùn)練或推理沒(méi)有明顯的瓶頸,十分適合AI模型訓(xùn)練。

此外,為了解決公司因多年來(lái)在數(shù)據(jù)中心、邊緣和云部署中構(gòu)建和使用多種不同類型的存儲(chǔ)、存儲(chǔ)設(shè)備而導(dǎo)致的“同時(shí)跨多個(gè)位置管理數(shù)據(jù)”難題,戴爾還全面推出了適用于Azure的戴爾APEX文件存儲(chǔ),不僅彌合了云存儲(chǔ)和AI驅(qū)動(dòng)的見(jiàn)解之間的巨大差距,還支持靈活支付費(fèi)用,為用戶提供極大的便利。

適用于Azure的戴爾APEX文件存儲(chǔ)的核心是戴爾PowerScale OneFS,通過(guò)將這個(gè)高性能橫向擴(kuò)展文件存儲(chǔ)解決方案引入Azure云,戴爾使用戶能夠更有效地整合和管理數(shù)據(jù),降低存儲(chǔ)成本并增強(qiáng)數(shù)據(jù)保護(hù)和安全性,同時(shí)利用原生云AI工具更快地獲得見(jiàn)解。

通過(guò)SyncIQ本機(jī)復(fù)制,它可將文件數(shù)據(jù)從本地設(shè)備快速、無(wú)風(fēng)險(xiǎn)、策略驅(qū)動(dòng)地遷移到云。由于OneFS軟件平臺(tái)在本地和Azure中是相同的,因此用戶無(wú)需對(duì)底層存儲(chǔ)架構(gòu)進(jìn)行任何更改。一旦進(jìn)入云,IT團(tuán)隊(duì)就會(huì)使用他們已熟悉的用戶界面、命令執(zhí)行界面(CLI)、API界面和身份管理,方便企業(yè)利用現(xiàn)有技能,減少管理數(shù)據(jù)和技術(shù)架構(gòu)所花費(fèi)的時(shí)間,降低管理復(fù)雜性。

適用于Azure的APEX文件存儲(chǔ)可在單個(gè)命名空間中支持多達(dá)18個(gè)節(jié)點(diǎn)和5.6PiB,可提供可擴(kuò)展性和靈活性,同時(shí)又不犧牲管理的簡(jiǎn)易性,并可實(shí)現(xiàn):

● 集群性能提高6倍

● 命名空間大至11倍

● 每個(gè)卷最多可增加23倍快照

● 集群彈性提高2倍

● 橫向擴(kuò)展到252個(gè)節(jié)點(diǎn)

另外,APEX文件存儲(chǔ)直接與多種最常見(jiàn)的AI工具(包括Azure AI Studio)集成,利用原生AI工具來(lái)支持最苛刻的工作負(fù)載。適用于Azure的戴爾APEX文件存儲(chǔ)專為混合云和云爆發(fā)用例而設(shè)計(jì),無(wú)論是傳統(tǒng)IT工作負(fù)載還是尖端的人工智能應(yīng)用程序,它都具有最高的AI規(guī)模性能,將AI工作負(fù)載推向創(chuàng)新和效率的新高度。

結(jié) 語(yǔ)

在數(shù)字技術(shù)快速發(fā)展的時(shí)代,多云策略的需求從未如此明顯。通過(guò)更加靈活、安全、高效的解決方案,企業(yè)不僅能夠從容應(yīng)對(duì)挑戰(zhàn),還能以前所未有的速度驅(qū)動(dòng)業(yè)務(wù)增長(zhǎng)。作為行業(yè)領(lǐng)導(dǎo)者,戴爾科技將繼續(xù)以領(lǐng)先的創(chuàng)新、全面的服務(wù),幫助企業(yè)更好地適應(yīng)AI時(shí)代。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 戴爾
    +關(guān)注

    關(guān)注

    5

    文章

    668

    瀏覽量

    40855
  • 數(shù)據(jù)中心
    +關(guān)注

    關(guān)注

    16

    文章

    5228

    瀏覽量

    73515
  • AI
    AI
    +關(guān)注

    關(guān)注

    88

    文章

    35136

    瀏覽量

    279775

原文標(biāo)題:訓(xùn)練AI在本地還是云端?

文章出處:【微信號(hào):戴爾企業(yè)級(jí)解決方案,微信公眾號(hào):戴爾企業(yè)級(jí)解決方案】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    AI玩具,還是AI工具?

    、元寶等國(guó)產(chǎn)大模型AI平臺(tái)的智能產(chǎn)品,將AI玩具變成行業(yè)內(nèi)最引人注目的產(chǎn)品賽道之一。無(wú)論是從能對(duì)話的智能玩偶到可編程的教育機(jī)器人,AI玩具的市場(chǎng)規(guī)模迅速擴(kuò)大。然而,爭(zhēng)議也隨之而來(lái):這些產(chǎn)品究竟
    的頭像 發(fā)表于 05-16 01:04 ?6825次閱讀
    <b class='flag-5'>AI</b>玩具,<b class='flag-5'>還是</b><b class='flag-5'>AI</b>工具?

    FOC電機(jī)控制究竟該如何學(xué)?

    學(xué)習(xí)FOC電機(jī)控制究竟是學(xué)哪些內(nèi)容? 電機(jī)知識(shí) 軟件知識(shí) 純分享貼,有需要可以直接下載附件獲取完整資料! (如果內(nèi)容有幫助可以關(guān)注、點(diǎn)贊、評(píng)論支持一下哦~)
    發(fā)表于 05-09 14:09

    工程師在產(chǎn)品選型的時(shí)究竟是選CAN還是CANFD接口卡呢?

    很多工程師在產(chǎn)品選型的時(shí)候會(huì)疑惑,究竟是選CAN接口卡還是CANFD接口卡呢??jī)烧咧g有什么區(qū)別呢?影響選擇的關(guān)鍵因素又是什么?我們今天一個(gè)一個(gè)來(lái)拆解。1.波特率傳統(tǒng)的CAN接口卡僅有一個(gè)波特率,即
    的頭像 發(fā)表于 03-21 11:37 ?367次閱讀
    工程師在產(chǎn)品選型的時(shí)<b class='flag-5'>究竟是</b>選CAN<b class='flag-5'>還是</b>CANFD接口卡呢?

    室內(nèi)導(dǎo)航究竟是如何實(shí)現(xiàn)的

    作為物聯(lián)網(wǎng)智能硬件的引領(lǐng)者,云里物里當(dāng)然不是來(lái)聊電影的,而是想借此機(jī)會(huì),和大家探討一下:室內(nèi)導(dǎo)航究竟是如何實(shí)現(xiàn)的?它背后的技術(shù)原理是什么?接下來(lái),讓我們一起揭開(kāi)室內(nèi)導(dǎo)航的神秘面紗。
    的頭像 發(fā)表于 02-12 13:50 ?518次閱讀

    ADS1298R PACE_OUT1和PACE_OUT2這兩條引腿究竟是輸入還是輸出?有什么用?怎樣使用?

    PACE_OUT1和PACE_OUT2這兩條引腿究竟是輸入還是輸出?有什么用?怎樣使用?
    發(fā)表于 02-12 07:56

    AI云端計(jì)算資源有哪些類型

    AI云端計(jì)算資源涵蓋了從基礎(chǔ)設(shè)施到軟件服務(wù)的多個(gè)層面,為AI模型的訓(xùn)練、推理和部署提供了強(qiáng)大的支持。下面,AI部落小編為您詳細(xì)介紹
    的頭像 發(fā)表于 11-15 09:39 ?572次閱讀

    嵌入式和人工智能究竟是什么關(guān)系?

    嵌入式和人工智能究竟是什么關(guān)系? 嵌入式系統(tǒng)是一種特殊的系統(tǒng),它通常被嵌入到其他設(shè)備或機(jī)器中,以實(shí)現(xiàn)特定功能。嵌入式系統(tǒng)具有非常強(qiáng)的適應(yīng)性和靈活性,能夠根據(jù)用戶需求進(jìn)行定制化設(shè)計(jì)。它廣泛應(yīng)用于各種
    發(fā)表于 11-14 16:39

    PCM1861 INT腳究竟是輸出還是輸入?

    這個(gè)芯片activce或是idle. 是否有人解釋下,INT腳究竟是輸出還是輸入。我希望是輸出,我需要讀取到是否有analog audio輸入的信息。 或者,輸入輸出與否還要靠其他什么地方設(shè)置? 盼望有人回復(fù)解答,不勝感激!
    發(fā)表于 10-29 07:29

    超高頻讀寫器究竟是什么,能做什么?一文讀懂!

    物聯(lián)網(wǎng)技術(shù)日新月異的今天,超高頻讀寫器作為射頻識(shí)別(RFID)技術(shù)的重要組成部分,正逐漸滲透到我們生活的各個(gè)領(lǐng)域。那么,超高頻讀寫器究竟是什么?它又能做些什么呢?本文將帶您一探究竟。一、超高頻
    的頭像 發(fā)表于 10-23 14:41 ?777次閱讀
    超高頻讀寫器<b class='flag-5'>究竟是</b>什么,能做什么?一文讀懂!

    揭秘貼片功率電感發(fā)燙究竟是不是燒壞了

    電子發(fā)燒友網(wǎng)站提供《揭秘貼片功率電感發(fā)燙究竟是不是燒壞了.docx》資料免費(fèi)下載
    發(fā)表于 09-30 14:44 ?1次下載

    電感器線徑究竟是粗好還是細(xì)好

    電子發(fā)燒友網(wǎng)站提供《電感器線徑究竟是粗好還是細(xì)好.docx》資料免費(fèi)下載
    發(fā)表于 09-20 11:25 ?0次下載

    運(yùn)放輸入偏置電流的方向是流入運(yùn)放芯片還是流出運(yùn)放芯片?這個(gè)怎么確定的?

    運(yùn)放輸入偏置電流的方向究竟是流入運(yùn)放芯片還是流出運(yùn)放芯片這個(gè)怎么確定的?是不是得看運(yùn)放是三級(jí)管還是MOS管組成的,三極管還得看究竟是NPN還是
    發(fā)表于 08-23 07:29

    零點(diǎn)相位超前45度,相頻是下降還是上升?

    圖1是自己仿真的RC高通濾波,和以前課本的一樣。 而運(yùn)放后面的分析時(shí),環(huán)路增益曲線遇到零點(diǎn)就會(huì)相位超前,就是圖2的情況 那么請(qǐng)問(wèn),相位超前45度我可以理解,但是究竟是相頻下降還是上升(90--0/0--90),誰(shuí)能告訴我
    發(fā)表于 08-20 06:13

    tas5756m使用GPIO口加內(nèi)部PLL產(chǎn)生MCLK的方法究竟是怎么樣的?

    tas5756m使用GPIO口加內(nèi)部PLL產(chǎn)生MCLK的方法究竟是怎么樣的?
    發(fā)表于 08-19 06:06

    蘋果揭示AI新動(dòng)向:Apple Intelligence模型谷歌云端芯片上預(yù)訓(xùn)練

    蘋果公司最新的技術(shù)論文中披露了一項(xiàng)重要信息,其全新的人工智能系統(tǒng)Apple Intelligence所依賴的模型并非傳統(tǒng)上大型科技公司首選的NVIDIA GPU,而是選擇了谷歌設(shè)計(jì)的云端芯片上進(jìn)行預(yù)
    的頭像 發(fā)表于 07-30 15:00 ?845次閱讀