一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

AI芯片在實(shí)現(xiàn)商用的過程中的諸多挑戰(zhàn)

姚小熊27 ? 來源:半導(dǎo)體行業(yè)觀察 ? 作者:半導(dǎo)體行業(yè)觀察 ? 2020-11-19 10:04 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

過去幾年,數(shù)字化、信息化推動社會和產(chǎn)業(yè)發(fā)生了巨大的變革,在這個過程當(dāng)中,數(shù)據(jù)中心充當(dāng)了重要的角色。尤其是伴隨著人工智能迅速滲透到各領(lǐng)域的方方面面,龐大的應(yīng)用場景使得AI模型日驅(qū)復(fù)雜。在這種形勢之下,企業(yè)對數(shù)據(jù)中心的計(jì)算能力提出了更高的需求,而算力的核心就是芯片。

正是基于這個原因,近年來全球涌現(xiàn)出不少致力于AI芯片開發(fā)的企業(yè),燧原科技就是其中之一。在成立之初,公司就瞄準(zhǔn)了云端訓(xùn)練芯片市場缺口,并提出了“做大芯片,拼硬科技”的目標(biāo)。

在這種愿景的驅(qū)動下,從2018年3月成立至今的短短2年半時間內(nèi),燧原科技就陸續(xù)發(fā)布了云端AI訓(xùn)練芯片“邃思DTU”、搭載該芯片的AI加速卡“云燧T10”以及基于OCP加速模組OAM的“云燧T11”。2020年9月,燧原科技再次迎來了里程碑式的突破其第一代人工智能訓(xùn)練加速卡云燧T10和由其組成的多卡分布式訓(xùn)練集群已在云數(shù)據(jù)中心落地,正式進(jìn)入商用階段。

近日,燧原科技攜“云燧T10/T11” 首次亮相第三屆全球IC企業(yè)家大會暨第十八屆中國國際半導(dǎo)體博覽會(IC China 2020),在本次大會期間,燧原科技的負(fù)責(zé)人和相關(guān)專家為我們介紹了AI芯片實(shí)現(xiàn)商用的過程中存在著諸多挑戰(zhàn),以及燧原科技作為一家初創(chuàng)企業(yè)又是怎樣完成了云端AI大芯片的迅速商用化落地。

AI大芯片落地的難點(diǎn)

眾所周知,新場景對算力的需求,使得AI芯片在設(shè)計(jì)、制造和封測等方面進(jìn)行了升級,由此也促生了很多新技術(shù),這不僅為大量初創(chuàng)企業(yè)帶來了發(fā)展機(jī)會,也同樣為他們帶來了諸多的挑戰(zhàn)。以芯片設(shè)計(jì)為例,設(shè)計(jì)企業(yè)需要在架構(gòu)、IP、SoC等方面進(jìn)行創(chuàng)新。而芯片越大,則意味著整個芯片設(shè)計(jì)難度也會呈指數(shù)級上升,這為設(shè)計(jì)企業(yè)帶來了難題。除此之外,AI芯片要處理大量的數(shù)據(jù),所以這類芯片對性能的要求就導(dǎo)致了它對先進(jìn)工藝和先進(jìn)封裝方面也具有較高的要求。

而在解決了在這三個環(huán)節(jié)中的問題后,也僅僅是企業(yè)成功推出了相關(guān)產(chǎn)品,離實(shí)現(xiàn)商業(yè)化落地還存在著一段距離。

“量產(chǎn)是AI大芯片實(shí)現(xiàn)商用要翻越的一座大山”,燧原科技創(chuàng)始人兼COO張亞林表示:“在推出產(chǎn)品到實(shí)現(xiàn)量產(chǎn)的過程中,需要解決產(chǎn)品質(zhì)量、性能功耗以及良率這三大核心問題?!?/p>

為了保證產(chǎn)品質(zhì)量,燧原科技通過用驗(yàn)證方法學(xué)和驗(yàn)證覆蓋率來確保芯片設(shè)計(jì)質(zhì)量和制造質(zhì)量。在性能功耗優(yōu)化方面,則通過軟硬件聯(lián)合性能以實(shí)現(xiàn)端到端的性能調(diào)優(yōu),這包括三個部分,即進(jìn)行芯片性能極限測試、硬件性能調(diào)優(yōu)以及軟件性能優(yōu)化。在良率方面,存在著晶圓測試(CP)良率挑戰(zhàn)、2.5D封裝良率挑戰(zhàn)以及分級良率挑戰(zhàn)。對此,燧原科技選擇了與產(chǎn)業(yè)鏈上下游伙伴共同合作來提高產(chǎn)品良率。

除了在技術(shù)層面上存在產(chǎn)業(yè)化應(yīng)用的挑戰(zhàn)外,與之相匹配的軟件生態(tài)系統(tǒng)也是AI大芯片難以落地的另一重要因素。

為此燧原科技推出了計(jì)算及編程平臺“馭算”。據(jù)介紹,該平臺支持主流深度學(xué)習(xí)框架,并針對邃思芯片進(jìn)行了特定優(yōu)化。整個平臺不僅包括傳統(tǒng)的算子加速庫,還為數(shù)據(jù)中心大規(guī)模訓(xùn)練集群提供高效靈活的調(diào)度機(jī)制。

(馭算軟件架構(gòu))

大芯片背后的硬科技

實(shí)現(xiàn)量產(chǎn)是商業(yè)化過程中重要的一環(huán),量產(chǎn)后走向市場并受到市場的青睞則是更重要的環(huán)節(jié),而這就需要依靠產(chǎn)品的硬實(shí)力。

通過相關(guān)技術(shù)降低芯片成本,也是云端AI訓(xùn)練芯片硬實(shí)力的一種體現(xiàn)。其中,芯片架構(gòu)的創(chuàng)新是實(shí)現(xiàn)算力普惠的一個重要因素。

借本次全球IC企業(yè)家大會的機(jī)會,燧原科技創(chuàng)始人兼首席執(zhí)行官趙立東發(fā)布了燧原科技的芯片架構(gòu)“GCU-CARA”(通用計(jì)算單元和全域計(jì)算架構(gòu))。據(jù)趙立東介紹,該架構(gòu)具有完全可編程、全模式計(jì)算、全精度計(jì)算和高并行度的特點(diǎn)。

據(jù)現(xiàn)場燧原科技專家介紹,GCU-CARA具有256個張量計(jì)算單元,每個計(jì)算單元支持1個32 bit MAC,支持所有精度輸入以及混合精度運(yùn)算。GCU-CARA擁有廣泛的標(biāo)量、向量、張量計(jì)算形式以及各種精度格式的支持,可以提供極其靈活的編程方式和張量切分/復(fù)用方式,從而支持最廣泛的編程需求。

據(jù)悉,燧原科技GCU架構(gòu)還包括GCU-CARE(計(jì)算引擎)、GCU-DARE(數(shù)據(jù)架構(gòu))、GCU-LARE(智能互聯(lián))、GCU-PARE(先進(jìn)封裝)四大核心技術(shù),旨在為人工智能產(chǎn)業(yè)注入了新動能。

目前,燧原GCU已應(yīng)用到云燧T10,T11產(chǎn)品以及數(shù)據(jù)中心AI訓(xùn)練系統(tǒng)和集群中。而今年云燧T10和由其組成的多卡分布式訓(xùn)練集群正式進(jìn)入商用階段,也從另一方面說明了燧原科技的硬實(shí)力受到了市場的認(rèn)可。

燧原科技開啟2.0時代

在云燧T10實(shí)現(xiàn)商用化落地的前四個月,燧原科技還獲得了新一輪的融資,借助這輪融資,燧原科技得以從1.0跨越到了2.0時代。

張亞林表示:“在1.0時代,燧原科技實(shí)現(xiàn)了從0到1的目標(biāo),在這個階段公司的工作重心是放在建設(shè)中國頂尖的工程化團(tuán)隊(duì),完成產(chǎn)品研發(fā)和量產(chǎn)、實(shí)現(xiàn)產(chǎn)品熱啟動,并完成首個人工智能訓(xùn)練解決方案的商業(yè)化落地?!?/p>

已經(jīng)實(shí)現(xiàn)商用的云燧T10和由其組成的多卡分布式訓(xùn)練集群是燧原科技完成1.0階段任務(wù)的代表作之一。從上文AI大芯片的商用落地難處便可看出,僅靠一塊芯片或是一種產(chǎn)品難以支撐云端服務(wù)器的使用。從目前市場情況來看,由AI芯片所組成的分布式集群在云端服務(wù)器發(fā)展的過程中起到了重要作用,針對這種商業(yè)訴求,燧原科技所推出的多卡分布式訓(xùn)練集群,就能夠?yàn)槠栈菰贫擞?xùn)練的實(shí)現(xiàn)提供助力。

“多卡分布式集群的建成并不是一件簡單的事”,張亞林表示:“在這個過程中,燧原科技需要解決多卡之間連接問題,還需要考慮每個板卡的工作分配,使之在盡可能小的功耗下發(fā)揮出最高的性能?!?/p>

人工智能訓(xùn)練平臺的商業(yè)化落地不僅為燧原1.0畫上了完美的通關(guān)句號,還為燧原科技打開了通往2.0時代的大門。

“2.0時代,燧原科技將進(jìn)行從1到N的發(fā)展”,據(jù)張亞林介紹:“在2.0時代,燧原科技會專注于建立市場銷售和服務(wù)支持體系,迅速拓展業(yè)務(wù)。同時,公司還將加強(qiáng)國內(nèi)外學(xué)術(shù)端的合作,引進(jìn)高端人才,構(gòu)建產(chǎn)業(yè)生態(tài)?!?/p>

在產(chǎn)品規(guī)劃方面,作為一個務(wù)實(shí)的企業(yè),實(shí)現(xiàn)商業(yè)化落地是燧原科技所追求的目標(biāo)之一。以此為基礎(chǔ),燧原科技在進(jìn)行芯片設(shè)計(jì)之初就瞄準(zhǔn)了市場痛點(diǎn),大大加速了產(chǎn)品的商業(yè)化進(jìn)程。

張亞林表示:“未來,燧原科技也將以應(yīng)用為導(dǎo)向,進(jìn)行產(chǎn)品的拓展。在2.0時代,燧原科技還會持續(xù)產(chǎn)品的研發(fā)和迭代,構(gòu)建云端訓(xùn)練和推理平臺完整解決方案。為了實(shí)現(xiàn)這一目標(biāo),燧原科技將會在明年推出推理AI芯片?!?/p>

根據(jù)燧原科技的計(jì)劃來看,公司將用3年時間來構(gòu)建燧原科技2.0時代。

燧原科技之所以能夠在短時間內(nèi)得到如此迅速的發(fā)展,是因?yàn)樵贫薃I訓(xùn)練芯片還處于起步階段,算法和架構(gòu)方面還有很大的上升空間。從云端訓(xùn)練芯片巨頭英偉達(dá)的發(fā)展中看,2019年其數(shù)據(jù)中心業(yè)務(wù)營收達(dá)到30億美元,AI訓(xùn)練卡則貢獻(xiàn)了其中的20億美元和最大利潤。

而英偉達(dá)幾乎壟斷了云端AI訓(xùn)練芯片市場,一家獨(dú)大的市場情況就導(dǎo)致了AI云端訓(xùn)練的成本很高。而燧原科技瞄準(zhǔn)這塊市場,就是期望能夠提供可替代的解決方案來推動普惠算力的實(shí)現(xiàn)。

據(jù)張亞林介紹,燧原科技瞄準(zhǔn)的是云端計(jì)算芯片的存量和增量兩大市常存量市場指的是目前已有的,并可進(jìn)行方案替代的市場,例如云服務(wù)商等領(lǐng)域。增量市場則是未來通過技術(shù)迭代并進(jìn)行方案替代的市常

他表示:“在國外廠商已經(jīng)構(gòu)建了強(qiáng)大的優(yōu)勢之下,其他廠商要想進(jìn)入這個市場首先就要適應(yīng)已有的生態(tài)系統(tǒng),通過提供可替代的解決方案是打入這個市場方法之一。這也是為未來突破國外廠商壟斷所奠定的基矗”

從國內(nèi)云端AI芯片競爭格局來看,由于現(xiàn)階段國內(nèi)致力于發(fā)展云端AI芯片的企業(yè)并不多,且在市場前景巨大的情況下,搶先爭取相關(guān)人才和發(fā)展生態(tài)合作伙伴就成為了驅(qū)動企業(yè)未來發(fā)展的重要引擎之一。而這也是上文所提到的,燧原科技要在2.0時代大力發(fā)展的部分之一。

因此,燧原科技正在積極與全產(chǎn)業(yè)鏈的伙伴達(dá)成合作,聯(lián)合伙伴孵化行業(yè)解決方案,深度參與AI產(chǎn)業(yè)聯(lián)盟;積極建立生態(tài),聯(lián)合建立高校聯(lián)合實(shí)驗(yàn)室;并開放底層能力,賦能定制開發(fā),深度參與社區(qū),貢獻(xiàn)測評標(biāo)準(zhǔn)。

結(jié)語

在算力即是生產(chǎn)力的今天,業(yè)界對普惠算力的需求日益高漲。在這種市場需求之下,在云端訓(xùn)練芯片這片藍(lán)海當(dāng)中,雖然存在著諸多門檻,但這更是機(jī)會。在這段探求之路上,燧原科技的成長也為國內(nèi)云端AI芯片實(shí)現(xiàn)商業(yè)化提供了一條發(fā)展之道。
責(zé)任編輯:YYX

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報(bào)投訴
  • 人工智能
    +關(guān)注

    關(guān)注

    1806

    文章

    48987

    瀏覽量

    249126
  • 云端
    +關(guān)注

    關(guān)注

    0

    文章

    123

    瀏覽量

    17277
  • AI芯片
    +關(guān)注

    關(guān)注

    17

    文章

    1983

    瀏覽量

    35883
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點(diǎn)推薦

    車規(guī)級ASM1042芯片在汽車無線充電模塊的應(yīng)用探索

    摘要: 本文深入探討國科安芯推出的車規(guī)級ASM1042芯片在汽車無線充電模塊的應(yīng)用潛力,著重分析其性能特點(diǎn)、應(yīng)用場景及面臨的挑戰(zhàn)。通過對芯片性能的詳細(xì)剖析和測試數(shù)據(jù)的嚴(yán)謹(jǐn)驗(yàn)證,結(jié)合汽
    的頭像 發(fā)表于 07-11 15:03 ?65次閱讀

    使用ADS1211的過程中,發(fā)現(xiàn)出現(xiàn)諸多問題,求解答

    如題,在使用ADS1211的過程中,發(fā)現(xiàn)出現(xiàn)諸多問題先羅列如下: 一、ADS1211的上電時序是否要求嚴(yán)格,比如先上5V模擬電壓在上5V數(shù)字電壓,如果不滿足條件會出現(xiàn)什么問題? 二、ADS1211
    發(fā)表于 02-05 06:42

    AI芯片在智能手機(jī)具體怎么用?

    AI芯片在智能手機(jī)的應(yīng)用主要體現(xiàn)在以下幾個方面: 圖像處理和智能拍照:AI芯片通過深度學(xué)習(xí)算法,可以識別場景、人物等信息,并自動調(diào)整拍攝參
    的頭像 發(fā)表于 01-03 14:02 ?1057次閱讀

    如何在播放視頻過程中插入音頻

    ZDP14x0是一款基于開源GUI引擎的圖像顯示專用驅(qū)動芯片,可以通過串口或者SPI與其他芯片通信,且能播放視頻。本文將介紹如何在播放視頻過程中插入音頻。
    的頭像 發(fā)表于 12-26 11:13 ?1073次閱讀
    如何在播放視頻<b class='flag-5'>過程中</b>插入音頻

    芯片制造過程中的兩種刻蝕方法

    本文簡單介紹了芯片制造過程中的兩種刻蝕方法 ? 刻蝕(Etch)是芯片制造過程中相當(dāng)重要的步驟。 刻蝕主要分為干刻蝕和濕法刻蝕。 ①干法刻蝕 利用等離子體將不要的材料去除。 ②濕法刻蝕
    的頭像 發(fā)表于 12-06 11:13 ?1566次閱讀
    <b class='flag-5'>芯片</b>制造<b class='flag-5'>過程中</b>的兩種刻蝕方法

    DMD芯片在虛擬現(xiàn)實(shí)的應(yīng)用分享

    DMD(Digital Micromirror Device)芯片在虛擬現(xiàn)實(shí)(VR)的應(yīng)用雖然不如在投影顯示領(lǐng)域那樣廣泛和直接,但其潛力和技術(shù)優(yōu)勢仍然值得關(guān)注和探討。 一、DMD芯片的基本原理
    的頭像 發(fā)表于 12-05 10:57 ?1176次閱讀

    DMD芯片在激光電視的使用

    DMD芯片在激光電視的使用至關(guān)重要,它是激光電視實(shí)現(xiàn)高質(zhì)量圖像顯示的核心組件。以下是對DMD芯片在激光電視中使用情況的介紹: 一、DMD芯片
    的頭像 發(fā)表于 12-05 10:51 ?1685次閱讀

    PLC數(shù)據(jù)采集在實(shí)施過程中存在的問題及解決方案

    PLC數(shù)據(jù)采集在工業(yè)自動化領(lǐng)域的實(shí)施過程中,遇到了一系列顯著的挑戰(zhàn)與痛點(diǎn),這些痛點(diǎn)直接影響了數(shù)據(jù)采集的效率、準(zhǔn)確性和成本效益。
    的頭像 發(fā)表于 11-30 14:38 ?830次閱讀

    調(diào)試ADS8688的過程中,芯片在掉電不充分的情況下讀到的轉(zhuǎn)換結(jié)果是錯誤的,為什么?怎么解決?

    在調(diào)試ADS8688的過程中遇到了一個問題,就是在芯片在掉電不充分的情況下,比如電壓降到2.4V,這時突然加電至5V的正常電壓。這種情況下讀到的轉(zhuǎn)換結(jié)果是錯誤的,固定為0xffff,且無法通過
    發(fā)表于 11-25 08:22

    AFE4403 TX3靜態(tài)模式,有沒有辦法實(shí)現(xiàn)在一個測量過程中,LED1,LED2,LED3依次點(diǎn)亮并采集數(shù)據(jù)?

    時,都需要重新燒錄程序,有沒有辦法實(shí)現(xiàn)在一個測量過程中,LED1,LED2,LED3依次點(diǎn)亮并采集數(shù)據(jù)。如果不能的話,我想請問一些您這個芯片在技術(shù)手冊第一頁寫的”可支持 3 個 LED“的意義在哪?
    發(fā)表于 11-14 07:58

    AI for Science:人工智能驅(qū)動科學(xué)創(chuàng)新》第4章-AI與生命科學(xué)讀后感

    將成為生命科學(xué)領(lǐng)域的重要工具和方法,推動生命科學(xué)的深入發(fā)展和廣泛應(yīng)用。同時,我們也應(yīng)該清醒地認(rèn)識到,這個過程中也伴隨著諸多挑戰(zhàn)和困難。只有不斷克服這些挑戰(zhàn),才能充分利用
    發(fā)表于 10-14 09:21

    AI for Science:人工智能驅(qū)動科學(xué)創(chuàng)新》第二章AI for Science的技術(shù)支撐學(xué)習(xí)心得

    for Science的技術(shù)支撐”的學(xué)習(xí)心得,可以從以下幾個方面進(jìn)行歸納和總結(jié): 1. 技術(shù)基礎(chǔ)的深入理解 在閱讀第二章的過程中,我對于AI for Science所需的技術(shù)基礎(chǔ)有了更加深入的理解。這一章詳細(xì)闡述了
    發(fā)表于 10-14 09:16

    驅(qū)動芯片在應(yīng)用的常見問題分析與解決

    電子發(fā)燒友網(wǎng)站提供《驅(qū)動芯片在應(yīng)用的常見問題分析與解決.pdf》資料免費(fèi)下載
    發(fā)表于 09-10 10:48 ?0次下載
    驅(qū)動<b class='flag-5'>芯片在</b>應(yīng)用<b class='flag-5'>中</b>的常見問題分析與解決

    DRV8332芯片在調(diào)試的過程中,輸出始終達(dá)不到24V,為什么?

    您好,我們的DRV8332芯片在調(diào)試的過程中,輸出始終達(dá)不到24V,發(fā)現(xiàn)PVDD_A,PVDD_B,PVDD_C供電24V正常,GVDD_A,GVDD_B,GVDD_C,供電12V正常,由于控制
    發(fā)表于 09-10 07:04

    康謀分享 | 在基于場景的AD/ADAS驗(yàn)證過程中,識別挑戰(zhàn)性場景!

    基于場景的驗(yàn)證是AD/ADAS系統(tǒng)開發(fā)過程中的重要步驟,然而面對海量駕駛記錄數(shù)據(jù)時,如何實(shí)現(xiàn)自動且高效地識別、分類和提取駕駛記錄挑戰(zhàn)性場景?本文康謀為您介紹IVEX軟件識別
    的頭像 發(fā)表于 08-28 10:16 ?1420次閱讀
    康謀分享 | 在基于場景的AD/ADAS驗(yàn)證<b class='flag-5'>過程中</b>,識別<b class='flag-5'>挑戰(zhàn)</b>性場景!