一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

ChatGPT大模型,引領海內外巨頭競品發(fā)布

智能計算芯世界 ? 來源:智能計算芯世界 ? 2023-04-17 10:28 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

9107941c-dcae-11ed-bfe3-dac502259ad0.png

大模型運行成本高昂,準入壁壘較高。大模型對于訓練時間和參數量都有高要求,以 OpenAICEO Altman 在推特上回復馬斯克的留言可知,ChatGPT 平均一次聊天成本為幾美分。根據Similar Web 數據,2023 年1月 27 日至 2 月 3 日 ChatGPT 日活躍用戶達 2500 萬人。中性假設下,以平均單人單日對話 7 次,每次 3 美分成本進行測算,對應一年支出對話成本約為19.2 億美元。根據英偉達官網,A100 作為 DGX A100 系統(tǒng)的一部分進行銷售,該系統(tǒng)搭載 8個 A100 GPU,一個由 5 臺 DGX A100 系統(tǒng)組成的機架可替代一個包括 AI 訓練和推理基礎設施的數據中心,且功耗僅為其 1/20,成本為其 1/10,系統(tǒng)售價 19.9 萬美元。因此,在中性假設條件下,考慮到服務器約占數據中心成本的 70%(中商產業(yè)研究院),則 ChatGPT 運營一年將需要 6741 個 DGX A100 系統(tǒng)用于支撐訪問量。

ChatGPT帶動大模型競品發(fā)布,海內外科技巨頭先后加碼AI布局。

1)谷歌向AI公司Anthropic投資近 4 億美元,后者正在測試生成式 AI 工具 Claude,且谷歌也推出對標 ChatGPT 的聊天機器人 Bard。

2)微軟以 100 億美元投資 ChatGPT 的開發(fā)商 OpenAI,并獲得其 49%股權。2023年 2 月,微軟發(fā)布基于 ChatGPT 的 new Bing。

3)亞馬遜云服務 AWS 宣布與 AI 公司 HuggingFace 開展合作,Hugging Face 將在 AWS 上開發(fā)針對 ChatGPT 的開源競品,構建開源語言模型的下個版本 Bloom。

4)阿里達摩院正研發(fā)類 ChatGPT 的對話機器人,目前已處于內測階段。

5)百度開發(fā)類 ChatGPT 項目“文心一言”(ERINE Bot)。

6)京東推出產業(yè)版 ChatJD。

912fdbb6-dcae-11ed-bfe3-dac502259ad0.png

9149da5c-dcae-11ed-bfe3-dac502259ad0.png

基于昆侖芯+飛槳+文心大模型 AI 底座,百度推出“文心一言”拉開國產生成式 AI 序幕。2023年 3 月 16 日,百度正式推出國內首款生成式 AI 產品“文心一言”,可支持文學創(chuàng)作、文案創(chuàng)作、數理推算、多模態(tài)生成等功能,目前已有多家廠商宣布接入。“文心一言”基于全棧自研的 AI 基礎設施進行學習和訓練:

? 昆侖芯 2 代 AI 芯片:“文心一言”的芯片層核心能力,采用自研 XPU-R 架構,通用性和性能顯著提升;256 TOPS@INT8 和 128 TFLOPS@FP16 的算力水平,較一代提升 2-3 倍,保障“文心一言”算力需求;采用 7nm 先進工藝,GDDR6 高速顯存,支持虛擬化,芯片間互聯(lián)和視頻編解碼等功能。

? 飛槳深度學習平臺:“文心一言”的框架層核心能力,系業(yè)內首個動靜統(tǒng)一的框架、首個通用異構參數服務器架構,支持端邊云多硬件和多操作系統(tǒng),為文心大模型提供有效、快捷、完整的訓練框架。

? 文心知識增強大模型:“文心一言”的模型層核心能力,該產品主要采用 ERNIE 系列文心NLP 模型,擁有千億參數級別的 ERNIE 3.0 Zeus 為該系列最新模型,進一步提升了模型對于不同下游任務的建模能力,大大拓寬了“文心一言”的應用場景。

以 GPT-3 為例測算:大算力需求驅動 AI 硬件市場空間提升

GPT-3(Generative Pre-trained Transformer 是 GPT-3.5 的上一代語言模型,目前一般所說的 GPT-3 即為擁有 1750 億參數的最大 GPT-3 模型,OpenAI 在公開發(fā)表的論文《Language Models are Few-Shot Learners》中對 GPT-3 模型進行了詳細分析。對于以 ChatGPT 為例的大模型算力需求,根據測算,我們預計用于高端 GPGPU 顯卡的訓練及推理部分市場空間合計約 145.32 億元,其中訓練市場規(guī)模為 27.84 億元,推理市場規(guī)模為 117.48 億元。

915a3e2e-dcae-11ed-bfe3-dac502259ad0.png

英偉達引領硬件端產品升級,國產 GPU 靜待花開

大 GPU 優(yōu)勢在于通過并行計算實現(xiàn)大量重復性計算。GPGPU(General Purpose GPU)即通用GPU,能夠幫助 CPU 進行非圖形相關程序的運算。在類似的價格和功率范圍內,GPU 能提供比CPU 高得多的指令吞吐量和內存帶寬。

GPT-4 模型算力需求擴增,架構升級降本增效未來可期

根據 OpenAI 官網顯示,目前 GPT-4 每 4 小時只能處理 100 條消息,且并沒有開放圖片識別功能。大模型升級帶來的運算需求逐漸加碼,且可推測目前算力已處于供不應求狀態(tài)。

多模態(tài)拓展,圖片識別算力需求升級十倍以上。關于從圖片到 token 的轉換方式,OpenAI 未公布 GPT-4 的模型參數,假設 GPT-4 處理圖片視覺任務使用 VisionTransformer 模型(ViT),則輸入圖片尺寸必須為 224×224(ViT-B/16 版本)。根據 2021 年 ICLR 論文,模型原理大致為把一張圖片分成 nxn 個 Patch,每一個 Patch 作為一個 Token。即把一張 224×224×3 的圖片,切分為 16×16 大小的 Patch,每個 Patch 是三通道小圖片,得到 16×16×3=768 個 token并作為向量輸入。相較之下,根據前文 GPT-3 部分假設,假設每個文字問題 50-100 詞,即67-133token。我們可以粗略推論,圖像識別的所需算力是文字推理部分所需算力的十倍以上級別。

審核編輯 :李倩

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • AI芯片
    +關注

    關注

    17

    文章

    1983

    瀏覽量

    35891
  • 聊天機器人
    +關注

    關注

    0

    文章

    348

    瀏覽量

    12794
  • ChatGPT
    +關注

    關注

    29

    文章

    1589

    瀏覽量

    9077

原文標題:ChatGPT大模型,引領海內外巨頭競品發(fā)布

文章出處:【微信號:AI_Architect,微信公眾號:智能計算芯世界】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    2024年蘑菇車聯(lián)斬獲多項海內外重量級榮譽

    #p#副標題#e#2024年以來,蘑菇車聯(lián)(MOGO.AI)憑借在人工智能、智能交通、智慧城市領域的技術創(chuàng)新與實踐成果,斬獲多項海內外重量級榮譽,贏得北京市科學技術委員會、中國信息通信研究院、全球
    的頭像 發(fā)表于 05-16 17:57 ?489次閱讀

    ISO 11452-8 標準下,AS5x47y 如何破解傳感器的磁場 “弱點”?

    《ISO 11452-8 標準下,AS5x47y 如何破解傳感器的磁場 “弱點”?》
    的頭像 發(fā)表于 05-09 13:48 ?204次閱讀
    ISO 11452-8 標準下,AS5x47y 如何破解<b class='flag-5'>競</b><b class='flag-5'>品</b>傳感器的磁場 “弱點”?

    TNC 連接器大對決,質量誰更勝一籌?

    綜合來看,在與的質量對決中,TNC 連接器在電氣性能、機械性能和環(huán)境適應性等方面展現(xiàn)出了明顯的優(yōu)勢,能夠為各類電子設備提供更為可靠、穩(wěn)定的連接解決方案,是追求高質量連接器用戶的理想選擇
    的頭像 發(fā)表于 03-06 08:43 ?470次閱讀
    TNC 連接器<b class='flag-5'>競</b><b class='flag-5'>品</b>大對決,質量誰更勝一籌?

    【「大模型啟示錄」閱讀體驗】+開啟智能時代的新鑰匙

    閱讀之旅。在翻開這本書之前,我對大模型的認知僅僅停留在它是一種強大的人工智能技術,可以進行自然語言處理、圖像識別等任務。我知道像 ChatGPT 這樣的應用是基于大模型開發(fā)的,能夠與人類進行較為流暢
    發(fā)表于 12-24 13:10

    達爾優(yōu)A75HE電磁軸鍵盤震撼發(fā)布引領新潮流

    近日,達爾優(yōu)與歐希德強強聯(lián)手,推出了其最新的電磁軸鍵盤——A75HE。這款鍵盤憑借其卓越的性能和獨特的設計,迅速在電愛好者中引起了廣泛關注。
    的頭像 發(fā)表于 12-17 17:36 ?627次閱讀

    OpenAI發(fā)布滿血版ChatGPT Pro

    科技巨頭OpenAI近期宣布了一項重大更新,正式推出了其備受期待的“滿血版”ChatGPT Pro。這一新版本基于全新的推理模型o1,旨在為用戶提供更為強大的處理能力和更高質量的回答。 據了解
    的頭像 發(fā)表于 12-06 11:10 ?811次閱讀

    百億液冷的星辰大海,海內外同頻共振

    【AI 需求激增推動液冷技術發(fā)展】 大模型和生成式 AI 的發(fā)展對算力、算法平臺和數據管理提出了全新要求, 傳統(tǒng)以 CPU 為中心的云計算基礎設施已難以滿足日益增長的交互需求。為了滿足 AI 模型
    的頭像 發(fā)表于 11-28 14:17 ?733次閱讀
    百億液冷的星辰大海,<b class='flag-5'>海內外</b>同頻共振

    海內外PK,線上最暢銷的監(jiān)控產品是哪些?

    消費類安防市場成熟,國內外品牌競爭加劇。國內廠商陷入價格戰(zhàn),海外市場看重實用性、價格。小米等品牌主導國內市場,海外依賴Ring等頭部品牌,中國品牌在北美等市場滲透加速,智能喂鳥器等成新爆款。
    的頭像 發(fā)表于 11-05 09:25 ?690次閱讀
    <b class='flag-5'>海內外</b>PK,線上最暢銷的監(jiān)控產品是哪些?

    ChatGPT:怎樣打造智能客服體驗的重要工具?

    ChatGPT作為智能對話生成模型,可以幫助打造智能客服體驗的重要工具。以下是一些方法和步驟:1.數據收集和準備:收集和整理與客服相關的數據,包括常見問題、回答示例、客戶對話記錄等。這將用于訓練
    的頭像 發(fā)表于 11-01 11:12 ?437次閱讀
    <b class='flag-5'>ChatGPT</b>:怎樣打造智能客服體驗的重要工具?

    怎樣搭建基于 ChatGPT 的聊天系統(tǒng)

    搭建一個基于ChatGPT的聊天系統(tǒng)是一個涉及多個步驟的過程,包括理解ChatGPT的API、設計用戶界面、處理數據和集成ChatGPT模型。以下是一個簡化的指南,用于創(chuàng)建一個基本的聊
    的頭像 發(fā)表于 10-25 16:23 ?1014次閱讀

    如何使用 ChatGPT 進行內容創(chuàng)作

    ChatGPT平臺。 選擇模型ChatGPT目前支持GPT3.5和GPT4兩個模型。根據創(chuàng)作需求,選擇合適的模型。一般來說,GPT4
    的頭像 發(fā)表于 10-25 16:08 ?1009次閱讀

    海內外朋友走進廣交會萬年芯展位,他們都說了什么

    10月15日,第136屆廣交會正式拉開帷幕,展館內開啟“人從眾”模式,“中國第一展”已吸引超15萬名境內外采購商注冊。當這些境內外商家來到萬年芯展位,他們會說些什么呢?【烏茲別克斯坦朋友說:】這是我
    的頭像 發(fā)表于 10-17 10:30 ?482次閱讀
    當<b class='flag-5'>海內外</b>朋友走進廣交會萬年芯展位,他們都說了什么

    格科微5000萬像素圖像傳感器量產出貨

    近日,格科微發(fā)布公告稱,公司自主研發(fā)的5000萬像素圖像傳感器產品已實現(xiàn)量產出貨,并成功進入海內外中高端品牌手機后主攝市場。
    的頭像 發(fā)表于 10-14 17:08 ?898次閱讀

    云知聲山海大模型多項能力全球領跑

    國內人工智能權威機構清華大學基礎模型研究中心發(fā)布SuperBench九月綜合榜單。本次評測選取海內外24個具有代表性的大模型,結果顯示,山海大模型
    的頭像 發(fā)表于 10-12 14:30 ?815次閱讀
    云知聲山海大<b class='flag-5'>模型</b>多項能力全球領跑

    跨越萬里 | 是什么吸引眾多海內外客戶來訪有行鯊魚?

    八月夏末,九月秋初,有行鯊魚憑借優(yōu)越的產品性能、創(chuàng)新的研發(fā)理念以及卓越的市場表現(xiàn),吸引了眾多海內外客戶紛紛來訪考察。 在來訪過程中,公司副總經理張亞杰先生熱情地向客戶展示了有行鯊魚在粘接材料領域的智能化生產及精細化管理模式,并深入介紹了如何通過科研創(chuàng)新能力實施差異化戰(zhàn)略,以推動企業(yè)的持續(xù)創(chuàng)新與發(fā)展。
    的頭像 發(fā)表于 09-11 16:47 ?546次閱讀
    跨越萬里 | 是什么吸引眾多<b class='flag-5'>海內外</b>客戶來訪有行鯊魚?