電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)日前消息,據(jù)相關(guān)人士透露,甲骨文(Oracle)和微軟(Microsoft)最近討論了一項(xiàng)不同尋常的協(xié)議,如果任何一家公司為使用大規(guī)模AI的云客戶提供的計(jì)算能力不足,雙方將相互租用服務(wù)器。
這筆交易將幫助這兩家互為競爭對手的云服務(wù)提供商滿足市場對可運(yùn)行AI軟件的服務(wù)器日益增長的需求,這種需求已導(dǎo)致服務(wù)器短缺。
微軟和甲骨文曾多次合作
微軟和甲骨文雖然互為競爭對手,但卻曾多次攜手合作。2013年6月,微軟與甲骨文宣布達(dá)成合作,將Java、甲骨文數(shù)據(jù)庫以及其他甲骨文軟件帶到微軟WindowsServerHyper-V和WindowsAzure云平臺(tái),這種合作為開發(fā)人員提供了極大的便利。
消費(fèi)者可以在WindowsServerHyper-V和WindowsAzure上部署甲骨文軟件,包括Java、甲骨文數(shù)據(jù)庫、甲骨文WebLogicServer,甲骨文將提供完整支持。
作為合作的一部分,甲骨文將認(rèn)證和支持自家軟件在微軟平臺(tái)上的運(yùn)行,并為WindowsAzure用戶提供OracleLinux,微軟也向WindowsAzure用戶提供上述甲骨文軟件。
甲骨文與微軟的強(qiáng)強(qiáng)聯(lián)合,Java開發(fā)人員和企業(yè)用戶獲益最大,甲骨文數(shù)據(jù)庫與微軟云計(jì)算平臺(tái)的整合,使得他們可以直接將桌面上的傳統(tǒng)軟件遷移至云計(jì)算系統(tǒng)。
2019年6月,微軟和甲骨文又宣布建立一個(gè)新的合作關(guān)系,兩家公司將通過網(wǎng)絡(luò)直連他們的云服務(wù),以便用戶可以在兩者之間無縫地遷移其工作負(fù)載和數(shù)據(jù)。
微軟和甲骨文發(fā)布的聯(lián)合聲明顯示,企業(yè)用戶將可以無縫地使用微軟Azure的分析和人工智能等服務(wù),以及甲骨文自主數(shù)據(jù)庫等云服務(wù)。整體來說,雙方為用戶提供了一站式的服務(wù),為用戶提供經(jīng)營整個(gè)企業(yè)的所有云服務(wù)和應(yīng)用程序。
據(jù)分析,微軟和甲骨文攜手合作是為了應(yīng)對共同的競爭壓力。隨著移動(dòng)互聯(lián)網(wǎng)快速發(fā)展,云計(jì)算市場重要性日益凸顯。微軟的AZure始終無法趕上亞馬遜云服務(wù)AWS的步伐,甲骨文更是由于最初對云計(jì)算前景的估計(jì)失誤而處境尷尬。
根據(jù)Synergy Research Group數(shù)據(jù)顯示,亞馬遜云服務(wù)以超過30%的市場占有率,成為全球云計(jì)算市場上的領(lǐng)跑者。微軟Azure以大約15%的市場份額位列第二,緊隨其后的是IBM Cloud以及谷歌Cloud。甲骨文(Oracle)這樣的小型云計(jì)算服務(wù)商,更是在上述四大云計(jì)算巨頭加強(qiáng)市場控制的壓力下,業(yè)務(wù)增速有所放緩。兩者攜手合作對于雙方來說都很有必要。
AI服務(wù)器需求快速增長
ChatGPT的出現(xiàn)掀起了全球AI大模型研究熱潮,無論是訓(xùn)練還是推理,這都需要消耗大量的算力,尤其是訓(xùn)練階段。以ChatGPT為例,根據(jù)OpenAI在2020年發(fā)表的論文,訓(xùn)練階段算力需求與模型參數(shù)數(shù)量、訓(xùn)練數(shù)據(jù)集規(guī)模等有關(guān),且為兩者乘積的6倍:訓(xùn)練階段算力需求=6×模型參數(shù)數(shù)量×訓(xùn)練集規(guī)模。
GPT-3模型參數(shù)約1750億個(gè),預(yù)訓(xùn)練數(shù)據(jù)量為45 TB,折合成訓(xùn)練集約為3000億tokens。即訓(xùn)練階段算力需求=6×1.75×1011×3×1011=3.15×1023 FLOPS=3.15×108 PFLOPS
依據(jù)谷歌論文,OpenAI公司訓(xùn)練GPT-3采用英偉達(dá)V100 GPU,有效算力比率為21.3%。GPT-3的實(shí)際算力需求應(yīng)為1.48×109 PFLOPS(17117 PFLOPS-day)。
假設(shè)應(yīng)用A100 640GB服務(wù)器進(jìn)行訓(xùn)練,該服務(wù)器AI算力性能為5 PFLOPS,最大功率為6.5 kw,則根據(jù)測算,訓(xùn)練階段需要服務(wù)器數(shù)量=訓(xùn)練階段算力需求÷服務(wù)器AI算力性能=2.96×108臺(tái)(同時(shí)工作1秒),即3423臺(tái)服務(wù)器工作1日。
在ChatGPT及各種AI大模型的推進(jìn)下,AI服務(wù)器市場需求呈現(xiàn)高速增長趨勢。美國服務(wù)器供應(yīng)商超微電腦在5月初的財(cái)報(bào)會(huì)議上表示,AI服務(wù)器業(yè)務(wù)正迎來創(chuàng)紀(jì)錄暴漲。公司向主要客戶交付新平臺(tái)的速度加快,2023財(cái)年有望迎來強(qiáng)勁收尾。
不過也因?yàn)樾枨髲?qiáng)勁,AI服務(wù)器硬件資源也面臨短缺的問題,超微電腦就表示,AI服務(wù)器出貨量可能會(huì)受到供應(yīng)鏈瓶頸的限制。
事實(shí)上,今年3月微軟公司就已經(jīng)傳出面臨內(nèi)部AI服務(wù)器硬件短缺的窘境。為此,微軟不得不對硬件資源采取配額供應(yīng)的方式,限制其他內(nèi)部AI工具開發(fā)團(tuán)隊(duì)的使用量,從而確?;贕PT-4的新版必應(yīng)聊天機(jī)器人和即將發(fā)布的新款Office工具獲得足夠的資源。
小結(jié)
可以看到,隨著AI大模型的研究推進(jìn),算力需求與日俱增,AI服務(wù)器企業(yè)也迎來大幅增長。然而由于受到供應(yīng)鏈,比如高算力GPU芯片等限制,AI服務(wù)器硬件資源仍然面臨短缺。微軟和甲骨文的再次攜手合作,正是其應(yīng)對當(dāng)前困境的方式之一。
-
微軟
+關(guān)注
關(guān)注
4文章
6651瀏覽量
105231 -
AI
+關(guān)注
關(guān)注
87文章
33554瀏覽量
274195
發(fā)布評論請先 登錄
相關(guān)推薦
評論