一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

從決策式AI進(jìn)階到生成式AI,SSD將變得更為重要

話說科技 ? 來源:話說科技 ? 作者:話說科技 ? 2024-03-29 15:02 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

AI概念沒有火熱之前,無論手機(jī)還是PC都已經(jīng)悄然引入人工智能加速相關(guān)的硬件和技術(shù),目的是在部分功能上獲得更好的體驗(yàn),比如手機(jī)相冊中的人臉智能識別和分類,PC和NAS在算力閑暇時(shí)對圖像、視頻的整理,以及視頻通話時(shí)的背景虛化等等都是很好的例子。

這個(gè)時(shí)期的AI計(jì)算我們通常稱為決策式AI,即在成熟的底層技術(shù)框架內(nèi),通過數(shù)據(jù)分類標(biāo)簽和辨別的形式,通過CPU、GPU、NPU等處理器合力,它們的特點(diǎn)是,具備一套成熟的判斷機(jī)制,通過夜以繼日的訓(xùn)練識別,不斷提升精度,并具有很強(qiáng)的針對性。

隨著大模型的火爆,另一種AI也推向了大眾視野,即被稱為生成式AI。無論是云端AI服務(wù)加速,還是近期能夠本地運(yùn)行200億參數(shù)大語言模型的AI PC,它們的思維是發(fā)散且具有創(chuàng)造性的,同時(shí)對硬件也提出了更高的要求。

生成式AI背后的海量數(shù)據(jù)

生成式AI與決策式AI最大的不同在于模型的規(guī)模,大模型計(jì)算本身意味著高算力、高存儲(chǔ)需求。正因?yàn)槿绱耍琇LM大語言模型才會(huì)成為推向應(yīng)用層面的首要選擇,原因很簡單,相對于圖像、視頻而言,抽象的文字已經(jīng)是最好整理的了。

但即便如此,大語言模型本身占用的數(shù)據(jù)量仍然巨大,以GPT-3為例,光是訓(xùn)練參數(shù)就達(dá)到了1750億個(gè),訓(xùn)練數(shù)據(jù)達(dá)到45TB,每天會(huì)產(chǎn)生45億字內(nèi)容,每次訓(xùn)練費(fèi)用需要460萬美元。而進(jìn)階到GPT-4之后,訓(xùn)練參數(shù)從1750億個(gè)增加到1.8萬億個(gè),訓(xùn)練成本進(jìn)一步提升到6300萬美元,訓(xùn)練數(shù)據(jù)量信息雖然沒有公布,但可想而知增長也是指數(shù)級的。

有意思的是,大語言模型訓(xùn)練在當(dāng)下似乎已經(jīng)變成了日常,頭部廠商已經(jīng)將目光投向了圖像生成和視頻生成,近段時(shí)間火熱的文字生成視頻應(yīng)用Sora,以及文生圖Midjourney都是很好的例子?,F(xiàn)在我們知道光是文字內(nèi)容就可以占據(jù)海量的存儲(chǔ)空間,如果將訓(xùn)練模型換成圖像、視頻,對內(nèi)容存儲(chǔ)和讀寫性能需求也注定指數(shù)級攀升。

SSD很重要

隨著生成式AI深入到不同領(lǐng)域,能夠提供高速存儲(chǔ)性能的SSD變得至關(guān)重要。不僅如此,對于企業(yè)和數(shù)據(jù)中心而言,存儲(chǔ)的可靠性、能效、性價(jià)比,以及對前沿技術(shù)的支持都變得至關(guān)重要。比如,企業(yè)級用戶會(huì)考慮在有限的機(jī)房空間內(nèi)獲得更多的容量,即提升單位存儲(chǔ)密度,并且還要考慮機(jī)架和機(jī)房的散熱能力和供電能力,這時(shí)候EDSFF規(guī)格似乎就成為了不錯(cuò)的選擇。

wKgZomYGZ36Ado_eAAGs5eII26c246.png

EDSFF,即企業(yè)與數(shù)據(jù)中心標(biāo)準(zhǔn)外形規(guī)格,特點(diǎn)是由頭部企業(yè)引領(lǐng)并獲得行業(yè)認(rèn)可,針對物理尺寸、散熱、性能、布局、安裝便捷性等特性優(yōu)化,從而達(dá)到更好的效果。

比如鎧俠CD8P就配備了前瞻性的EDSFF E3.S版本,支持PCIe?5.0和NVMe? 2.0,可提供高達(dá)30.72TB的存儲(chǔ)容量,擁有可達(dá)12,000MB/s順序讀取性能,并具備2000K IOPS的4K隨機(jī)讀取能力,在能耗與應(yīng)用性能表現(xiàn)之間做到很好的平衡,為數(shù)據(jù)中心和企業(yè)級用戶提供合理的擴(kuò)容選擇。

wKgZomYGZ36ASMQRAAGrrknpWcs679.png

如果希望性能更進(jìn)一步,鎧俠CM7系列作為高性能企業(yè)級雙端口固態(tài)硬盤同樣值得參考,事實(shí)上CM7系列是較早提供PCIe?5.0和NVMe? 2.0支持,并已經(jīng)充足釋放PCIe?5.0性能的產(chǎn)品,最大容量同樣也達(dá)到了30.72TB。擁有高吞吐量和高密度存儲(chǔ)的性能表現(xiàn),非常適合大模型計(jì)算,大數(shù)據(jù),深度學(xué)習(xí)加速、AIGC等人工智能應(yīng)用場景。

而隨著生成式AI的硬件需求越來越高,同時(shí)也不能忽視龐大的數(shù)據(jù)量需要高性能接口、大容量存儲(chǔ)支持,鎧俠企業(yè)級和數(shù)據(jù)中心級固態(tài)硬盤則早已為其做好了充足的準(zhǔn)備。未來AI的發(fā)展路徑中,也注定少不了鎧俠SSD承擔(dān)起存儲(chǔ)與加速的重要角色。

*容量的定義:鎧俠定義1兆字節(jié)(MB)為1,000,000字節(jié),1千兆字節(jié)(GB)為1,000,000,000字節(jié),1兆兆字節(jié)(TB)為1,000,000,000,000字節(jié)。但是計(jì)算機(jī)操作系統(tǒng)記錄存儲(chǔ)容量時(shí)使用2的冪數(shù)進(jìn)行表示,即定義1GB = 230= 1,073,741,824字節(jié),因此會(huì)出現(xiàn)存儲(chǔ)容量變小的情況??捎么鎯?chǔ)容量(包括各種媒體文件的示例)將根據(jù)文件大小、格式、設(shè)置、軟件和操作系統(tǒng)(例如Microsoft?操作系統(tǒng)和/或預(yù)安裝的軟件應(yīng)用程序)或媒體內(nèi)容而異。實(shí)際格式化的容量可能有所不同。

*1千位字節(jié) (KiB) 指210, 或1,024字節(jié),1兆字節(jié)(MiB) 指220,或1,048,576 字節(jié),1千兆字節(jié)(GiB)指230, 或1,073,741,824字節(jié)。

*IOPS:每秒輸入輸出(或每秒I/O操作數(shù))

*讀寫速度可能因主機(jī)設(shè)備、讀寫條件和文件大小的不同而不同。

*信息隨時(shí)可能更改:雖然鎧俠在發(fā)布時(shí)已努力確保此處提供信息的準(zhǔn)確性,但產(chǎn)品規(guī)格、配置、價(jià)格、系統(tǒng)/組件/選項(xiàng)等的可用性都可能發(fā)生更改,恕不另行通知。

*產(chǎn)品圖像可以代表設(shè)計(jì)模型。圖像僅用于說明目的。產(chǎn)品外觀可能與實(shí)際產(chǎn)品不同。閃存組件的實(shí)際數(shù)量因硬盤容量而不同。

審核編輯 黃宇

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報(bào)投訴
  • SSD
    SSD
    +關(guān)注

    關(guān)注

    21

    文章

    2984

    瀏覽量

    119615
  • AI
    AI
    +關(guān)注

    關(guān)注

    88

    文章

    35164

    瀏覽量

    280055
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點(diǎn)推薦

    SAP生成AI助手Joule是什么?虛擬同事智能團(tuán)隊(duì)全面提升企業(yè)生產(chǎn)力!

    SAP Joule 作為前沿生成 AI 助手,化身企業(yè)「數(shù)字員工」,以自動(dòng)化流程處理、智能決策支持打破業(yè)務(wù)增長瓶頸。
    的頭像 發(fā)表于 06-27 17:45 ?202次閱讀
    SAP<b class='flag-5'>生成</b><b class='flag-5'>式</b><b class='flag-5'>AI</b>助手Joule是什么?<b class='flag-5'>從</b>虛擬同事<b class='flag-5'>到</b>智能團(tuán)隊(duì)全面提升企業(yè)生產(chǎn)力!

    Gartner報(bào)告看Atlassian在生成AI領(lǐng)域的創(chuàng)新路徑與實(shí)踐價(jià)值

    Atlassian入選Gartner 2025生成AI技術(shù)"新興領(lǐng)導(dǎo)者"!其核心AI產(chǎn)品Rovo依托Teamwork Graph,支持團(tuán)
    的頭像 發(fā)表于 06-05 15:59 ?396次閱讀
    <b class='flag-5'>從</b>Gartner報(bào)告看Atlassian在<b class='flag-5'>生成</b><b class='flag-5'>式</b><b class='flag-5'>AI</b>領(lǐng)域的創(chuàng)新路徑與實(shí)踐價(jià)值

    AI Agent 應(yīng)用與項(xiàng)目實(shí)戰(zhàn)》閱讀心得2——客服機(jī)器人、AutoGen框架 、生成代理

    及時(shí)處理。 第5章的斯坦福AI小鎮(zhèn)項(xiàng)目對生成代理技術(shù)做出了開創(chuàng)性的探索。該項(xiàng)目的核心是LLM與計(jì)算交互代理相結(jié)合,構(gòu)建了一個(gè)具有記憶、反思、規(guī)劃能力的智能體系統(tǒng)。在技術(shù)實(shí)現(xiàn)層面,記
    發(fā)表于 02-25 21:59

    富士通如何解鎖生成AI紅利 人才進(jìn)化業(yè)務(wù)賦能

    生成AI技術(shù)正以每周迭代一次的速度重塑商業(yè)世界。利用生成AI,營銷部門10分鐘就可以產(chǎn)出百張
    的頭像 發(fā)表于 02-25 17:32 ?824次閱讀

    聚云科技獲亞馬遜云科技生成AI能力認(rèn)證

    的應(yīng)用上展現(xiàn)出了卓越的能力。 聚云科技通過整合亞馬遜云科技的先進(jìn)技術(shù),應(yīng)用范圍確定、模型選擇、數(shù)據(jù)處理、模型調(diào)優(yōu)應(yīng)用集成與部署,為企業(yè)提供全方位的生成
    的頭像 發(fā)表于 02-19 10:33 ?496次閱讀

    聚云科技榮獲亞馬遜云科技生成AI能力認(rèn)證

    Bedrock等技術(shù),應(yīng)用范圍、模型選擇、數(shù)據(jù)處理、模型調(diào)優(yōu)應(yīng)用集成與部署等方面,助力企業(yè)加速生成AI應(yīng)用落地。此外,聚云科技還基于
    的頭像 發(fā)表于 02-14 16:07 ?401次閱讀

    聚云科技榮獲亞馬遜云科技生成AI能力認(rèn)證 助力企業(yè)加速生成AI應(yīng)用落地

    、數(shù)據(jù)處理、模型調(diào)優(yōu)應(yīng)用集成與部署等方面,助力企業(yè)加速生成AI應(yīng)用落地。此外,聚云科技還基于亞馬遜云科技打造RAGPro企業(yè)知識庫、AI
    發(fā)表于 02-14 13:41 ?151次閱讀

    生成AI工具好用嗎

    當(dāng)下,生成AI工具正以其強(qiáng)大的內(nèi)容生成能力,為用戶帶來了前所未有的便捷與創(chuàng)新。那么,生成
    的頭像 發(fā)表于 01-17 09:54 ?460次閱讀

    NVIDIA Omniverse擴(kuò)展至生成物理AI領(lǐng)域

    NVIDIA近日宣布,其Omniverse?平臺(tái)再次實(shí)現(xiàn)重大突破,成功推出多個(gè)生成AI模型和藍(lán)圖,Omniverse的應(yīng)用范圍進(jìn)一步擴(kuò)展至物理A
    的頭像 發(fā)表于 01-13 10:56 ?766次閱讀

    Google兩款先進(jìn)生成AI模型登陸Vertex AI平臺(tái)

    生成 AI 正在引領(lǐng)商業(yè)增長與轉(zhuǎn)型。在已經(jīng)生成 AI
    的頭像 發(fā)表于 12-30 09:56 ?629次閱讀

    奇異摩爾亮相中國生成AI大會(huì)

    ? ? ? ? 12月5-6日,2024中國生成AI大會(huì)(上海站)“GenAICon 2024”將在上海中星鉑爾曼大酒店盛大舉辦。大會(huì)由上海市人工智能行業(yè)協(xié)會(huì)指導(dǎo),由智一科技旗下智能產(chǎn)業(yè)第一媒體
    的頭像 發(fā)表于 12-03 10:05 ?915次閱讀

    IDC生成AI白皮書亮點(diǎn)速遞

    在數(shù)字化浪潮中,生成 AI 正成為推動(dòng)創(chuàng)新和變革的關(guān)鍵力量。本文分享由 IDC 發(fā)布的《技術(shù)革新引領(lǐng)未來——生成
    的頭像 發(fā)表于 11-04 10:12 ?802次閱讀

    生成AI工具作用

    生成AI工具是指那些能夠自動(dòng)生成文本、圖像、音頻、視頻等多種類型數(shù)據(jù)的人工智能技術(shù)。在此,petacloud.ai小編為您整理
    的頭像 發(fā)表于 10-28 11:19 ?754次閱讀

    生成AI的迅猛發(fā)展與安全挑戰(zhàn):CPU在構(gòu)建云端可信環(huán)境中的關(guān)鍵作用

    隨著生成AI技術(shù)的飛速進(jìn)步,AI應(yīng)用已經(jīng)廣泛融入我們的日常生活,AI手機(jī)、
    的頭像 發(fā)表于 10-08 16:21 ?976次閱讀

    STAR AI進(jìn)軍美股科技星智能領(lǐng)跑生成AI賽道

    自ChatGPT問世以來,文字chatbot視頻生成和機(jī)器人,生成人工智能(Generative
    的頭像 發(fā)表于 08-22 08:56 ?641次閱讀
    STAR <b class='flag-5'>AI</b>進(jìn)軍美股科技星智能領(lǐng)跑<b class='flag-5'>生成</b><b class='flag-5'>式</b><b class='flag-5'>AI</b>賽道