一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

新一輪AI競(jìng)賽中,為什么HPC一定是贏家?

新思科技 ? 來(lái)源:未知 ? 2023-03-23 06:35 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

本文轉(zhuǎn)自《TechSugar》感謝《TechSugar》對(duì)新思科技的關(guān)注

當(dāng)前,以ChatGPT為代表的生成式人工智能應(yīng)用風(fēng)頭無(wú)兩,正在全球科技巨頭間掀起新一輪的技術(shù)競(jìng)賽。在很多人看來(lái),ChatGPT的上線或可被視作一次新產(chǎn)業(yè)革命的引爆點(diǎn),而這個(gè)引爆點(diǎn)之所以能出現(xiàn),則離不開(kāi)背后的高性能計(jì)算與大數(shù)據(jù)基礎(chǔ)設(shè)施。

ChatGPT基于Open AI公司的GPT-3系列語(yǔ)言大模型來(lái)實(shí)現(xiàn),GPT(Generative Pre-trained Transformer)即生成式預(yù)訓(xùn)練轉(zhuǎn)換模型,是一種基于互聯(lián)網(wǎng)可用數(shù)據(jù)訓(xùn)練的文本生成深度學(xué)習(xí)模型。

為了實(shí)現(xiàn)和人類可比擬的語(yǔ)言交互和語(yǔ)言組織能力,GPT-3的參數(shù)達(dá)到1750億個(gè),相比之下,2018年推出的GPT-1,參數(shù)為1.17億個(gè),而2019年推出的GPT-2參數(shù)則達(dá)到15億個(gè),量變最終將引發(fā)質(zhì)變,參數(shù)規(guī)模的飛速膨脹,對(duì)支撐GPT運(yùn)行的硬件系統(tǒng)提出了越來(lái)越高的要求,對(duì)于類似GPT這樣的大模型,沒(méi)有高性能硬件支撐,根本無(wú)法去實(shí)現(xiàn)與部署,更不要說(shuō)隨著新數(shù)據(jù)的涌入來(lái)迭代了。

所以,在眾廠商紛紛宣布加碼大模型AI投入時(shí),有人斷言,新一輪AI競(jìng)賽鹿死誰(shuí)手還很難說(shuō),但高性能計(jì)算(HPC)系統(tǒng)中的高算力芯片、高帶寬互連芯片和存儲(chǔ)芯片一定是贏家。

HPC及其核心

芯片發(fā)展趨勢(shì)

那么,高性能計(jì)算要如何發(fā)展才能更好地支持新一波人工智能發(fā)展浪潮?而人工智能將如何影響到高性能計(jì)算本身呢?有如下幾點(diǎn),可供探討。

第一,高性能計(jì)算與人工智能相得益彰。人工智能的每一次高速發(fā)展,都離不開(kāi)背后硬件基礎(chǔ)設(shè)施的支持,而高速發(fā)展的AI又對(duì)硬件基礎(chǔ)設(shè)施提出了更高的要求,激勵(lì)芯片或系統(tǒng)性能成倍上升。

在Open AI 2018年發(fā)布的報(bào)告中,對(duì)自2012至2018年人工智能訓(xùn)練對(duì)算力的需求超過(guò)30萬(wàn)倍,算力需求平均每3.5個(gè)月翻一番,這給芯片及硬件系統(tǒng)更新?lián)Q代帶來(lái)極大壓力,因?yàn)榘茨柖傻男阅苌?jí)速度,已經(jīng)不能滿足AI訓(xùn)練對(duì)芯片性能的需求增長(zhǎng)速度了。

為了打破性能瓶頸,新思科技提出了SysMoore開(kāi)發(fā)方法學(xué),通過(guò)全系統(tǒng)優(yōu)化,有效釋放了性能提升潛力。

反過(guò)來(lái),AI能力也在提升芯片開(kāi)發(fā)效率,幫助開(kāi)發(fā)者設(shè)計(jì)出性能更出色的芯片。例如,通過(guò)應(yīng)用新思科技的DSO.ai工具,開(kāi)發(fā)者將一款HPC處理器的運(yùn)行頻率提高了100Mz,而開(kāi)發(fā)時(shí)間縮短了一半,整個(gè)團(tuán)隊(duì)的產(chǎn)出效率提升至原來(lái)的三倍。

bf7b3c4c-c901-11ed-bfe3-dac502259ad0.png

第二,HPC芯片性能提升方式從平面擴(kuò)展轉(zhuǎn)變?yōu)榱Ⅲw增長(zhǎng)。多晶片系統(tǒng)(Multi-Die System)正在成為HPC芯片的主要發(fā)展潮流,從HPC的系統(tǒng)角度來(lái)看,采用先進(jìn)封裝技術(shù)將不同芯片封裝在一起的方式,比PCB互連能大幅提升系統(tǒng)性能,因而HPC芯片在實(shí)現(xiàn)上,2.5D封裝與3D封裝的設(shè)計(jì)將越來(lái)越多。

而由于成熟的接口IP可以直接以芯粒(Chiplet)方式與計(jì)算內(nèi)核進(jìn)行拼接,多晶片系統(tǒng)開(kāi)發(fā)方式還可以有效保證良率,加快開(kāi)發(fā)效率。

多晶片系統(tǒng)的實(shí)現(xiàn),需要設(shè)計(jì)方法學(xué)的更新,以實(shí)現(xiàn)高帶寬、低延遲、低功耗和無(wú)差錯(cuò)工作的片間接口,多晶片系統(tǒng)的片間接口技術(shù)對(duì)于數(shù)據(jù)中心與邊緣設(shè)備的快速、可靠的數(shù)據(jù)傳輸至關(guān)重要。

采用先進(jìn)封裝技術(shù)將芯片進(jìn)行立體堆疊,為芯片性能提升打開(kāi)了無(wú)限可能,但也需要更強(qiáng)的EDA工具、設(shè)計(jì)方法學(xué)和IP,來(lái)處理多晶片系統(tǒng)中的異構(gòu)集成、互連和封裝問(wèn)題。此外,隨著數(shù)據(jù)中心互連技術(shù)的發(fā)展,開(kāi)發(fā)者還需要具備硅光學(xué)等領(lǐng)域的專業(yè)知識(shí)和技術(shù)。

新思科技的3DIC Compiler是一個(gè)高效易用的多晶片系統(tǒng)設(shè)計(jì)實(shí)現(xiàn)平臺(tái),可以為各種不同工藝制造的芯粒拼接堆疊提供完整的開(kāi)發(fā)環(huán)境。

例如,從多晶片系統(tǒng)項(xiàng)目啟動(dòng)時(shí),開(kāi)發(fā)者就需要用3DIC Compiler對(duì)多晶片系統(tǒng)進(jìn)行功能劃分,將整體設(shè)計(jì)分解為多個(gè)芯粒,接下來(lái),可以用3DIC Compiler進(jìn)行早期版圖規(guī)劃和基于封裝的信號(hào)完整性分析,以實(shí)現(xiàn)更好的片間連接性能和更優(yōu)的功耗表現(xiàn)。

bfcd9d2a-c901-11ed-bfe3-dac502259ad0.jpg

第三,邊緣計(jì)算設(shè)備將不斷進(jìn)步迭代。人工智能的訓(xùn)練發(fā)生在數(shù)據(jù)中心,但推理或數(shù)據(jù)收集都離不開(kāi)邊緣設(shè)備。

在人工智能應(yīng)用中,對(duì)邊緣設(shè)備的延遲要求越來(lái)越高,希望能進(jìn)一步減少邊緣設(shè)備數(shù)據(jù)處理和傳輸延遲,這就要求優(yōu)化邊緣設(shè)備主芯片的數(shù)據(jù)傳輸速度和效率。而邊緣設(shè)備數(shù)量眾多,因而在芯片層面能夠降低功耗的話,將對(duì)整個(gè)云加邊緣體系的節(jié)能降耗貢獻(xiàn)極大。

所以,邊緣端芯片需要強(qiáng)大的仿真和驗(yàn)證工具、功耗和熱分析功能、設(shè)計(jì)布局的智能實(shí)施,以及一系列關(guān)鍵功能和接口的認(rèn)證IP模塊,新思科技可以為開(kāi)發(fā)者提供從邊緣到云端可應(yīng)用的基礎(chǔ)IP、接口IP、安全I(xiàn)P和處理器IP,優(yōu)化實(shí)現(xiàn)高性能、低延遲和低功耗,同時(shí)支持先進(jìn)的工藝技術(shù)。

第四,從信息安全、可靠性和運(yùn)營(yíng)成本等考慮,HPC芯片需要全生命周期管理。HPC系統(tǒng)規(guī)模巨大,運(yùn)營(yíng)成本高昂,可以處理PB乃至ZB級(jí)別的數(shù)據(jù),可以實(shí)時(shí)運(yùn)行大模型。這種級(jí)別的系統(tǒng)一旦出現(xiàn)故障,由于業(yè)務(wù)暫停造成的經(jīng)濟(jì)損失,數(shù)字會(huì)十分驚人。

所以,一個(gè)好的HPC系統(tǒng),應(yīng)該具備卓越的可靠性、可用性和服務(wù)能力,而要做到這一點(diǎn),系統(tǒng)角度可以通過(guò)冗余設(shè)計(jì)來(lái)增加可靠性,但更重要的則是從芯片層級(jí)來(lái)減少故障率。

在芯片層級(jí)減少系統(tǒng)的故障率,就需要用到新思科技的硅生命周期管理(Silicon Lifecycle Management,SLM )的理念。

SLM通過(guò)內(nèi)置IP來(lái)收集芯片運(yùn)行中的各種參數(shù),并將芯片運(yùn)行數(shù)據(jù)傳輸至指定位置進(jìn)行分析和跟蹤,從而讓系統(tǒng)可以實(shí)時(shí)監(jiān)控各個(gè)核心芯片的運(yùn)行狀況,為系統(tǒng)建立起芯片健康狀況跟蹤圖,從而更好地預(yù)測(cè)和預(yù)防故障的發(fā)生,最終實(shí)現(xiàn)故障率降低和最小化故障損失。

第五,可持續(xù)發(fā)展是HPC產(chǎn)業(yè)長(zhǎng)期繁榮的基礎(chǔ)。由于規(guī)模巨大,HPC系統(tǒng)能耗驚人,專家預(yù)測(cè),到2030年,僅數(shù)據(jù)中心用電量將占到全球總用電量的3%至7%,不少區(qū)域甚至抵制建設(shè)數(shù)據(jù)中心,以免因其耗能巨大而導(dǎo)致當(dāng)?shù)丨h(huán)境惡化。所以,如何有效解決HPC/數(shù)據(jù)中心能耗和散熱問(wèn)題,已經(jīng)成為其能否可持續(xù)發(fā)展的關(guān)鍵。

在新思科技為HPC/數(shù)據(jù)中心提供的完整解決方案中,處處體現(xiàn)了節(jié)能降耗的理念。例如,通過(guò)低功耗設(shè)計(jì)方法學(xué)和功耗優(yōu)化過(guò)的IP核來(lái)實(shí)現(xiàn)HPC芯片的整體功耗優(yōu)化,從而降低HPC系統(tǒng)能耗,有效降低系統(tǒng)功耗,而新思科技各種高效率開(kāi)發(fā)、仿真和驗(yàn)證工具,大幅降低了研發(fā)一款芯片的總體用時(shí)和資源占用,則是從更廣泛角度上為可持續(xù)發(fā)展做出的貢獻(xiàn)。

總結(jié)

隨著互聯(lián)網(wǎng)與人工智能技術(shù)的發(fā)展,HPC產(chǎn)業(yè)的重要性與日俱增,大數(shù)據(jù)與大數(shù)據(jù)模型的應(yīng)用,都對(duì)HPC系統(tǒng)的性能與能耗提出了更高要求,只有從芯片層級(jí)出發(fā)來(lái)對(duì)HPC系統(tǒng)進(jìn)行優(yōu)化,才能真正讓HPC系統(tǒng)性能不斷升級(jí),能效持續(xù)優(yōu)化,走上真正的可持續(xù)發(fā)展之路。


聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 新思科技
    +關(guān)注

    關(guān)注

    5

    文章

    865

    瀏覽量

    51492

原文標(biāo)題:新一輪AI競(jìng)賽中,為什么HPC一定是贏家?

文章出處:【微信號(hào):Synopsys_CN,微信公眾號(hào):新思科技】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    新一輪的工業(yè)“智變”

    當(dāng)下,全球產(chǎn)業(yè)鏈正面臨供應(yīng)鏈重構(gòu)、個(gè)性化需求增長(zhǎng)以及深度數(shù)字化與可持續(xù)發(fā)展的重要節(jié)點(diǎn)。工業(yè)需要經(jīng)歷新一輪的“智變”,從自動(dòng)化升級(jí)到自主化,并向著柔性化、智能化、以及人機(jī)協(xié)同的工業(yè)5.0愿景邁進(jìn)。
    的頭像 發(fā)表于 05-15 13:46 ?514次閱讀

    海納AI獲5000萬(wàn)新一輪融資

    近日,國(guó)內(nèi)領(lǐng)先的AI面試測(cè)評(píng)解決方案提供商海納AI宣布成功獲得5000萬(wàn)元人民幣的新一輪融資。本輪融資由德同資本領(lǐng)投,求是資本跟投,共同為海納AI的未來(lái)發(fā)展注入新的活力。 這筆資金將主
    的頭像 發(fā)表于 02-19 10:10 ?410次閱讀

    知行科技完成新一輪超2億元融資

    知行科技新一輪超2億元融資將主要用于提升研發(fā)能力,包括基于AI的高階智駕、艙駕體解決方案及產(chǎn)品,升級(jí)優(yōu)化研發(fā)生產(chǎn)設(shè)施,進(jìn)步擴(kuò)大海外市場(chǎng)。
    的頭像 發(fā)表于 02-12 18:18 ?753次閱讀

    夢(mèng)之墨完成新一輪數(shù)千萬(wàn)元融資

    近日,北京夢(mèng)之墨科技有限公司(以下簡(jiǎn)稱“夢(mèng)之墨”)完成新一輪數(shù)千萬(wàn)的融資,本輪融資由北京中科先行創(chuàng)業(yè)投資管理有限公司旗下基金與川翔投資管理(北京)有限公司管理的北京懷柔科技創(chuàng)新創(chuàng)業(yè)基金聯(lián)合投資。
    的頭像 發(fā)表于 01-21 15:39 ?625次閱讀

    復(fù)合機(jī)器人廠商景曜科技完成新一輪戰(zhàn)略投資

    日前,南京景曜智能科技有限公司(簡(jiǎn)稱“景曜科技”)宣布完成新一輪戰(zhàn)略融資,新增兩家戰(zhàn)略投資方股東,包括中國(guó)鐵路發(fā)展基金旗下的“鐵發(fā)智景”,以及山東國(guó)資魯信創(chuàng)投旗下子公司“魯信信創(chuàng)”,兩家均為國(guó)資背景。
    的頭像 發(fā)表于 01-13 10:10 ?689次閱讀

    螞蟻集團(tuán)宣布新一輪組織架構(gòu)調(diào)整

    螞蟻集團(tuán)近期迎來(lái)了新一輪的組織架構(gòu)調(diào)整,此次調(diào)整由螞蟻集團(tuán)總裁韓歆毅親自宣布,并通過(guò)郵件形式向全體員工傳達(dá)。 韓歆毅在郵件透露,他將于2025年3月1日正式接任螞蟻集團(tuán)首席執(zhí)行官(CEO)
    的頭像 發(fā)表于 12-24 09:35 ?706次閱讀

    芯來(lái)科技入選上海市新一輪批重點(diǎn)“小巨人”企業(yè)

    )等文件規(guī)定,上海市新一輪批重點(diǎn)“小巨人”企業(yè)實(shí)施期初獎(jiǎng)補(bǔ)資金分配方案正式公布。芯來(lái)科技憑借在RISC-V領(lǐng)域的專業(yè)化實(shí)力與示范作用成功入選上海市新一輪批重點(diǎn)“小巨人”企業(yè)。
    的頭像 發(fā)表于 12-19 15:38 ?768次閱讀

    榮耀迎來(lái)新一輪投資,中國(guó)電信、金資本等加入

    據(jù)最新報(bào)道,榮耀在其股權(quán)改革進(jìn)程迎來(lái)了新一輪投資者的加入,包括中國(guó)電信、金資本旗下基金、基石資本旗下基金、特發(fā)基金,以及新成立的代理商投資平臺(tái)金石星耀等。   榮耀方面表示,此次融資堅(jiān)持公開(kāi)透明的原則,旨在進(jìn)
    的頭像 發(fā)表于 10-31 13:44 ?1127次閱讀

    小馬智行獲得廣汽集團(tuán)2700萬(wàn)美元新一輪投資

    近日,自動(dòng)駕駛解決方案提供商小馬智行宣布獲得廣汽集團(tuán)2700萬(wàn)美元的新一輪投資。
    的頭像 發(fā)表于 10-12 16:01 ?596次閱讀

    字節(jié)跳動(dòng)開(kāi)啟新一輪股權(quán)回購(gòu)

    字節(jié)跳動(dòng)近日向員工發(fā)布了新一輪股權(quán)回購(gòu)的郵件通知。此次回購(gòu),在職員工的稅前回購(gòu)價(jià)定為每股180.7美元,而離職員工的回購(gòu)價(jià)則為153.6美元。
    的頭像 發(fā)表于 10-11 15:46 ?740次閱讀

    OpenAI新一輪融資66億美元,鞏固AI領(lǐng)先地位

    近日,美國(guó)人工智能領(lǐng)域的佼佼者OpenAI宣布,在最新一輪融資中成功籌集了高達(dá)66億美元的資金。此次融資后,OpenAI的估值飆升至1570億美元,再次彰顯了其在全球AI領(lǐng)域的強(qiáng)勁實(shí)力。
    的頭像 發(fā)表于 10-08 14:44 ?599次閱讀

    Anthropic擬進(jìn)行新一輪融資

    人工智能領(lǐng)域再掀波瀾,初創(chuàng)公司Anthropic正緊鑼密鼓地籌備新一輪融資,市場(chǎng)預(yù)計(jì)其估值將躍升至400億美元大關(guān)。此次融資吸引了包括谷歌、亞馬遜等科技巨頭的青睞,彰顯了Anthropic在AI賽道上的強(qiáng)勁競(jìng)爭(zhēng)力和市場(chǎng)潛力。目前,融資談判尚處于初級(jí)階段,但已足夠引發(fā)業(yè)界廣
    的頭像 發(fā)表于 09-24 15:19 ?602次閱讀

    武漢敏聲再獲新一輪融資

    近日,武漢敏聲新技術(shù)有限公司(簡(jiǎn)稱“武漢敏聲”)宣布成功完成新一輪融資,此次融資由中國(guó)互聯(lián)網(wǎng)投資基金、長(zhǎng)江產(chǎn)業(yè)集團(tuán)、駱駝基金等知名投資機(jī)構(gòu)共同參與。這是自2019年成立以來(lái),武漢敏聲獲得的第4融資,累計(jì)融資金額已接近10億元,公司估值隨之攀升至近30億元的新高度。
    的頭像 發(fā)表于 09-24 14:52 ?1311次閱讀

    喆塔科技完成新一輪戰(zhàn)略融資

    喆塔科技近日宣布圓滿完成新一輪戰(zhàn)略融資,此融資由光谷金控、張科垚坤及合肥產(chǎn)投三大國(guó)有及產(chǎn)業(yè)資本巨頭攜手完成。此次融資不僅彰顯了市場(chǎng)對(duì)喆塔科技的高度認(rèn)可,更為其未來(lái)發(fā)展注入了強(qiáng)勁動(dòng)力。
    的頭像 發(fā)表于 09-06 17:37 ?859次閱讀

    Micro LED企業(yè)云英谷科技完成新一輪增資

    云英谷科技近日宣布成功完成新一輪增資,由祥峰投資與成都策源聯(lián)合注資,為公司注入了強(qiáng)勁的發(fā)展動(dòng)力。本輪增資后,云英谷的資本儲(chǔ)備已超10億元,為其應(yīng)對(duì)業(yè)績(jī)快速增長(zhǎng)及行業(yè)周期性波動(dòng)提供了堅(jiān)實(shí)保障。
    的頭像 發(fā)表于 09-04 18:11 ?1253次閱讀