ChatGPT需要多少算力支持？

據(jù)中信建投研報(bào)數(shù)據(jù)，此前用于AI訓(xùn)練的算力增長(zhǎng)符合摩爾定律，大約每20個(gè)月翻一番；深度學(xué)習(xí)的出現(xiàn)加速了性能的擴(kuò)展，用于A(yíng)I訓(xùn)練的算力大約每6個(gè)月翻一番；而目前大規(guī)模模型出現(xiàn)，其訓(xùn)練算力是原來(lái)的10到100倍。

“算力、算法、數(shù)據(jù)作為人工智能的三要素，在數(shù)字經(jīng)濟(jì)發(fā)展、產(chǎn)業(yè)智能化升級(jí)的進(jìn)程中發(fā)揮巨大作用，數(shù)據(jù)可以看作生產(chǎn)資料，算法代表新的生產(chǎn)關(guān)系，算力則是新型生產(chǎn)力支撐著算法和數(shù)據(jù)，算力水平?jīng)Q定數(shù)據(jù)處理能力的強(qiáng)弱。在A(yíng)I模型訓(xùn)練和推理運(yùn)算過(guò)程中需要強(qiáng)大的算力支撐，隨著訓(xùn)練強(qiáng)度和運(yùn)算復(fù)雜程度的增加，算力精度的要求也在逐漸提高?！辟惖项檰?wèn)人工智能產(chǎn)業(yè)研究中心常務(wù)副總經(jīng)理鄒德寶稱(chēng)。

根據(jù)國(guó)家數(shù)據(jù)資源調(diào)查報(bào)告，2021年全球數(shù)據(jù)總產(chǎn)量67ZB，近三年平均增速超過(guò)26%?；A(chǔ)算力、智能算力、超算算力都呈現(xiàn)穩(wěn)定增長(zhǎng)態(tài)勢(shì)。

根據(jù)早些時(shí)候OpenAI發(fā)表了一份研究成果表明，AI訓(xùn)練所需算力指數(shù)增長(zhǎng)，增長(zhǎng)速度超越硬件的摩爾定律。

其實(shí)ChatGPT需要的算力取決于應(yīng)用場(chǎng)景，一般來(lái)說(shuō)，GPT需要大量的算力來(lái)完成復(fù)雜的任務(wù)。例如，在自然語(yǔ)言處理任務(wù)中，GPT需要大量的算力來(lái)處理大量的文本數(shù)據(jù)，以及處理復(fù)雜的語(yǔ)義關(guān)系。此外，GPT還需要大量的算力來(lái)處理復(fù)雜的圖像和視頻數(shù)據(jù)。

數(shù)據(jù)顯示，自2012年至2018年，用于訓(xùn)練AI所需要的算力大約每隔3～4個(gè)月翻倍，整體呈現(xiàn)指數(shù)級(jí)上漲（而摩爾定律僅僅是18個(gè)月翻一倍）1。從2012年到2018年，訓(xùn)練AI所耗費(fèi)的算力增長(zhǎng)了30萬(wàn)倍，而摩爾定律在相同時(shí)間只有7倍的增長(zhǎng)。

ChatGPT熱度不減的背后，是人工智能內(nèi)容自動(dòng)生成技術(shù)所需要的算力需求也水漲船高。數(shù)據(jù)顯示，ChatGPT的總算力消耗約為3640PF-days（即假如每秒計(jì)算一千萬(wàn)億次，需要計(jì)算3640天），需要7~8個(gè)投資規(guī)模30億、算力500P的數(shù)據(jù)中心才能支撐運(yùn)行。

中國(guó)的算力情況正在迅速發(fā)展。根據(jù)最新的數(shù)據(jù)，中國(guó)的計(jì)算機(jī)算力已經(jīng)超過(guò)美國(guó)，成為全球最大的計(jì)算機(jī)算力擁有國(guó)。中國(guó)的算力發(fā)展受到政府的大力支持，政府投入了大量資金用于研發(fā)新技術(shù)，推動(dòng)算力的發(fā)展。此外，中國(guó)的科技公司也在積極投資算力，以滿(mǎn)足市場(chǎng)需求。

ChatGPT大火面臨的挑戰(zhàn)

自ChatGPT發(fā)布以來(lái)，它的能力也不斷被人們解鎖，但人們?cè)谠囉弥新l(fā)現(xiàn)，數(shù)學(xué)能力是ChatGPT的一大短板，連簡(jiǎn)單的“雞兔同籠”題都能算錯(cuò)。大概是考慮到這一點(diǎn)，ChatGPT近日宣布了一次重要更新：提升了真實(shí)性和數(shù)學(xué)能力。

據(jù)了解，ChatGPT較上一代產(chǎn)品提升明顯，對(duì)話(huà)模式具備更好的交互體驗(yàn)。但對(duì)比Google等搜索引擎，ChatGPT尚不具備替代搜索引擎的能力。ChatGPT的數(shù)據(jù)來(lái)自訓(xùn)練數(shù)據(jù)庫(kù)，目前數(shù)據(jù)庫(kù)僅更新至2021年，可用信息有限，同時(shí)真實(shí)性也無(wú)法得到保障。

主要來(lái)自于大量的文本數(shù)據(jù)，包括新聞文章、社交媒體帖子、書(shū)籍等。這些文本數(shù)據(jù)可以幫助ChatGPT學(xué)習(xí)語(yǔ)言，從而更好地理解人類(lèi)語(yǔ)言。此外，從商業(yè)模式來(lái)看，ChatGPT目前采用免費(fèi)的模式。

根據(jù)OpenAI的CEO SamAltman披露，ChatGPT每次聊天成本約為幾美分，其中一部分來(lái)自Azure云服務(wù)，未來(lái)公司在持續(xù)優(yōu)化成本的同時(shí)，會(huì)考慮通過(guò)收費(fèi)獲利，預(yù)計(jì)的收費(fèi)模式包括訂閱制、按條收費(fèi)等。

文章綜合選股寶、第一財(cái)經(jīng)、中國(guó)科技網(wǎng)