一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

手機(jī)AI大模型來(lái)襲,存儲(chǔ)來(lái)到16GB+512GB?

花茶晶晶 ? 來(lái)源:電子發(fā)燒友網(wǎng) ? 作者:黃晶晶 ? 2024-01-19 09:54 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

電子發(fā)燒友網(wǎng)報(bào)道(文/黃晶晶)手機(jī)處理器廠商最先引領(lǐng)了AI大模型在手機(jī)上的落地。去年下半年以來(lái),高通聯(lián)發(fā)科相繼發(fā)布最新處理器,都開(kāi)始支持AI大模型。

驍龍8 Gen3是高通首款以生成式AI為核心設(shè)計(jì)的移動(dòng)平臺(tái)。驍龍8 Gen 3基于臺(tái)積電4nm制程,采1個(gè)3.3GHz Cortex-X4+5個(gè)3.2GHz Cortex-A720+2個(gè)2.3GHz Cortex-A530的八核架構(gòu)設(shè)計(jì)。在強(qiáng)大的CPUGPU和NPU的支持下,驍龍8 Gen可以在設(shè)備端運(yùn)行生成式AI,其支持超過(guò)100億個(gè)參數(shù)的模型,比如Meta Llama2 / Baichuan,并支持20個(gè) tokens/秒。

聯(lián)發(fā)科天璣9300采用全大核設(shè)計(jì),CPU包含4個(gè)Cortex-X4超大核,以及4個(gè)主頻為2.0GHz的Cortex-A720大核。天璣9300集成的APU 790內(nèi)置生成式AI引擎,與Transformer模型適配進(jìn)行算子加速,可以實(shí)現(xiàn)1秒內(nèi)生成圖片。

結(jié)合內(nèi)存硬件壓縮技術(shù)NeuroPilot Compression來(lái)減少AI大模型對(duì)終端內(nèi)存的占用,天璣9300支持在終端運(yùn)行10億、70億、130億參數(shù)的AI大模型。并且天璣9300成功運(yùn)行了330億參數(shù)的AI大模型。

在這些處理器發(fā)布后,手機(jī)廠商陸續(xù)推出搭載這些最新處理器的旗艦智能手機(jī),當(dāng)然也無(wú)一例外的開(kāi)始搭載AI大模型。

手機(jī)AI大模型涌現(xiàn)

電子發(fā)燒友網(wǎng)統(tǒng)計(jì)去年底到今年1月發(fā)布的旗艦智能手機(jī),包括小米14系列、vivo X100系列,OPPO X7系列、榮耀Magic6系列等,以及更早前發(fā)布的華米Mate60系列。它們都已經(jīng)支持AI大模型的運(yùn)行和應(yīng)用。手機(jī)廠商對(duì)于AI大模型的擁抱態(tài)度十分積極,在主處理器支持AI功能的基礎(chǔ)上,推出了自研的AI大模型。

wKgaomWp1meAJ9rWAAu-Oba1m-c841.png

例如小米的MiLM大模型支持64億參數(shù),還有支持13億參數(shù)的端側(cè)大模型。

vivo發(fā)布五款自研“藍(lán)心”AI大模型,包括1750億、1300億、700億、70億、10億五款不同參數(shù)規(guī)模,并開(kāi)源70億“藍(lán)心”大模型。X100系列搭載70億參數(shù)大模型。

在安第斯AndesGPT 大模型70億參數(shù)大語(yǔ)言支持下,OPPO 端側(cè)具備超快的首字響應(yīng)速度。用戶(hù)可以體驗(yàn)全新的 AIGC 消除功能,首個(gè) AI 大模型語(yǔ)音摘要,文字生成圖片等100多種能力。

當(dāng)然,要追溯AI大模型上手機(jī)的進(jìn)程,其實(shí)早在去年8月,華為Mate60 Pro發(fā)布,并宣布接入盤(pán)古人工智能大模型,為消費(fèi)者提供更智慧的交互體驗(yàn)。

在AI大模型的加持下,智能手機(jī)變得更加智能化,出現(xiàn)更多便捷而有趣的應(yīng)用,AI大模型成為智能手機(jī)的一大賣(mài)點(diǎn),也將是未來(lái)智能手機(jī)創(chuàng)新發(fā)展的趨勢(shì)。

需要多少存儲(chǔ)容量?

我們看到,這些基于高通和聯(lián)發(fā)科旗艦芯片的智能手機(jī)比較集中的是支持70億的AI大模型參數(shù)。那么這些旗艦機(jī)型的存儲(chǔ)容量又是多少呢?經(jīng)統(tǒng)計(jì)發(fā)現(xiàn),最低的為8GB+256GB,最高達(dá)到16GB+1TB。16GB+512GB這種搭配的存儲(chǔ)容量是最為集中的。

以手機(jī)AI大模型的內(nèi)存容量來(lái)看,OPPO影像產(chǎn)品總監(jiān)張璇此前在接受采訪時(shí)給出的數(shù)據(jù)是,70億大模型正常的模型大小是28GB,經(jīng)過(guò)壓縮和輕量化之后可壓縮到最小的3.9GB左右。

這個(gè)數(shù)據(jù),其他手機(jī)廠商也有類(lèi)似的看法。vivo AI解決方案中心總監(jiān)謝偉欽此前透露,要運(yùn)轉(zhuǎn)一個(gè)10億規(guī)模大模型至少需要1G內(nèi)存,70億模型需要4GB內(nèi)存,130億模型目前需要超過(guò)7GB內(nèi)存。

這里不能不說(shuō)輕量化和內(nèi)存壓縮技術(shù)。聯(lián)發(fā)科在介紹天璣 9300支持生成式AI時(shí)就特別提到,特有內(nèi)存硬件壓縮技術(shù)和NeuroPilot Compression 混合精度 INT4 量化技術(shù)。采用INT4量化可以將130億參數(shù)大模型壓縮至13GB,再用內(nèi)存硬件壓縮技術(shù)進(jìn)一步減少存儲(chǔ)容量。

我們以70億大模型壓縮后需要4GB來(lái)算,再加上6GB App保活、4GB安卓OS,也就是說(shuō),支持70億參數(shù)大模型的智能手機(jī),實(shí)現(xiàn)圖像生成功能等,其內(nèi)存至少需要14GB。

若未來(lái)要支持超100億參數(shù)的模型,實(shí)現(xiàn)數(shù)字AI助手等功能,在現(xiàn)有條件下智能手機(jī)內(nèi)存至少需要17GB。

目前國(guó)內(nèi)智能手機(jī)已經(jīng)搭載最高24GB的內(nèi)存,比如一加 12,一加Ace 3、realme 真我 GT5 等已提供24GB版本。

在內(nèi)存規(guī)格上,當(dāng)前旗艦智能手機(jī)的內(nèi)存主要為L(zhǎng)PDDR5X。vivo X100系列率先搭載海力士LPDDR5T內(nèi)存(為強(qiáng)調(diào)其超高速度,SK海力士在“LPDDR5”規(guī)格名稱(chēng)后添加了“Turbo渦輪增壓”字樣),相比LPDDR5X內(nèi)存讀取速度提升達(dá)13%,達(dá)9.6Gbps。

在閃存規(guī)格上,主要為UFS4.0。UFS是一種允許設(shè)備同時(shí)讀取和寫(xiě)入的全雙工接口,并且在標(biāo)準(zhǔn)層面能幫助設(shè)備以更低的功耗實(shí)現(xiàn)高速讀寫(xiě),UFS4.0理論速度達(dá)到4,640MB/s。如前所述,最新發(fā)布的旗艦智能手機(jī)的閃存容量都配置了512GB這一容量。

隨著AI大模型在手機(jī)上的推進(jìn),手機(jī)處理器、內(nèi)存、閃存的容量和性能需求都將升級(jí)到更高的水平。增加容量只是一方面,無(wú)論是存儲(chǔ)芯片廠商還是手機(jī)處理器、終端廠商,在存儲(chǔ)技術(shù)、系統(tǒng)優(yōu)化等方面還需更多的創(chuàng)新。

智能手機(jī)回暖,AI手機(jī)拉動(dòng)存儲(chǔ)市場(chǎng)上升

智能手機(jī)市場(chǎng)經(jīng)歷一段長(zhǎng)時(shí)間的低迷之后,終于迎來(lái)增長(zhǎng)。

Counterpoint數(shù)據(jù)顯示,2023年10月全球智能手機(jī)銷(xiāo)量在連續(xù)27個(gè)月同比下降后,首次售出交易量(即零售額)同比增長(zhǎng)5%。2023年第四季度,智能手機(jī)出貨量增速為同比增長(zhǎng)3%,達(dá)到3.12億部。Counterpoint預(yù)測(cè),2024年全球智能手機(jī)出貨量有望同比增長(zhǎng)3%。

IDC預(yù)計(jì),2024年中國(guó)智能手機(jī)市場(chǎng)出貨量將達(dá)到2.87億部,同比增長(zhǎng)3.6%,實(shí)現(xiàn)2021年以來(lái)首次同比增長(zhǎng)。

和PC市場(chǎng)對(duì)AI PC給予厚望一樣,AI手機(jī)將成為智能手機(jī)市場(chǎng)一個(gè)強(qiáng)勁的增長(zhǎng)動(dòng)力。AI手機(jī)將帶動(dòng)LPDDR5、UFS 4.0的滲透,加速存儲(chǔ)行業(yè)的復(fù)蘇態(tài)勢(shì)。

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 聯(lián)發(fā)科
    +關(guān)注

    關(guān)注

    56

    文章

    2729

    瀏覽量

    257418
  • AI
    AI
    +關(guān)注

    關(guān)注

    88

    文章

    35109

    瀏覽量

    279644
  • 大模型
    +關(guān)注

    關(guān)注

    2

    文章

    3139

    瀏覽量

    4064
  • 天璣9300
    +關(guān)注

    關(guān)注

    3

    文章

    53

    瀏覽量

    514
  • AI大模型
    +關(guān)注

    關(guān)注

    0

    文章

    375

    瀏覽量

    612
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    拋棄8GB內(nèi)存,端側(cè)AI模型加速內(nèi)存升級(jí)

    電子發(fā)燒友網(wǎng)報(bào)道(文/黃晶晶)端側(cè)AI模型的到來(lái)在存儲(chǔ)市場(chǎng)產(chǎn)生了最直接的反應(yīng)。年初在我們對(duì)旗艦智能手機(jī)存儲(chǔ)容量統(tǒng)計(jì)中,
    的頭像 發(fā)表于 11-03 00:02 ?5786次閱讀
    拋棄8<b class='flag-5'>GB</b>內(nèi)存,端側(cè)<b class='flag-5'>AI</b>大<b class='flag-5'>模型</b>加速內(nèi)存升級(jí)

    GB10超級(jí)芯片開(kāi)賣(mài)!正式殺入AI PC

    電子發(fā)燒友網(wǎng)綜合報(bào)道,近日,聯(lián)發(fā)科與英偉達(dá)合作開(kāi)發(fā)的GB10超級(jí)芯片,作為首款個(gè)人AI超級(jí)電腦的核心組件,已經(jīng)獲得了主要PC品牌大廠的青睞,并將于本月起陸續(xù)上市開(kāi)賣(mài)。 ? 在今年1月的CES展會(huì)
    的頭像 發(fā)表于 07-09 01:21 ?2479次閱讀

    8999元起!榮耀Magic V5首發(fā),樹(shù)立折疊屏手機(jī)新標(biāo)桿

    ,16GB+512GB版本10999元。 Magic V5兩大突破:青海湖刀片電池+魯班大模型,夯實(shí)纖薄體驗(yàn) 榮耀新CEO李健表示,決定折疊屏手機(jī)厚度的核心因素是電
    的頭像 發(fā)表于 07-04 09:10 ?4792次閱讀
    8999元起!榮耀Magic V5首發(fā),樹(shù)立折疊屏<b class='flag-5'>手機(jī)</b>新標(biāo)桿

    8999元起!榮耀Magic V5發(fā)布,樹(shù)立折疊屏手機(jī)新標(biāo)桿

    。榮耀Magic V5對(duì)比OPPO在6月份發(fā)布的Find N5,重量減少了16g,榮耀官宣Magic V5價(jià)格8999元起,16GB+512GB版本9999元,16GB+512GB版本10999元。
    的頭像 發(fā)表于 07-03 14:23 ?5375次閱讀
    8999元起!榮耀Magic V5發(fā)布,樹(shù)立折疊屏<b class='flag-5'>手機(jī)</b>新標(biāo)桿

    Banana Pi 發(fā)布 BPI-AI2N &amp; BPI-AI2N Carrier,助力 AI 計(jì)算與嵌入式開(kāi)發(fā)

    高效連接 BPI-AI2N 標(biāo)配 8GB LPDDR4X 內(nèi)存、32GB eMMC 存儲(chǔ)及 64MB QSPI Flash,確保數(shù)據(jù)存取高效穩(wěn)定。同時(shí),BPI-
    發(fā)表于 03-19 17:54

    【性能強(qiáng)者再升級(jí)】迅為RK3588開(kāi)發(fā)板16GB+128GB高配3588核心板發(fā)布!

    【性能強(qiáng)者再升級(jí)】迅為RK3588開(kāi)發(fā)板16GB+128GB高配3588核心板發(fā)布!
    的頭像 發(fā)表于 02-20 15:22 ?1091次閱讀
    【性能強(qiáng)者再升級(jí)】迅為RK3588開(kāi)發(fā)板<b class='flag-5'>16GB+128GB</b>高配3588核心板發(fā)布!

    蘋(píng)果iPhone 16e上架,國(guó)補(bǔ)后起售價(jià)3999元

    售價(jià)方面,iPhone 16e提供了128GB、256GB512GB三個(gè)存儲(chǔ)版本,以滿足不同用戶(hù)的需求。具體來(lái)說(shuō),128
    的頭像 發(fā)表于 02-20 09:33 ?732次閱讀

    英偉達(dá)GB300 AI服務(wù)器訂單配置初定

    近日,據(jù)業(yè)界消息透露,英偉達(dá)已初步敲定了其下一代GB300 AI服務(wù)器產(chǎn)品線的訂單配置。預(yù)計(jì)英偉達(dá)將在明年3月的GTC大會(huì)上正式揭曉這一全新產(chǎn)品線。 據(jù)悉,為了GB300的研發(fā)設(shè)計(jì),英偉達(dá)已與包括鴻
    的頭像 發(fā)表于 12-25 10:52 ?1008次閱讀

    智能手機(jī)MATE 70有哪些黑科技?

    16GB+512GB16GB+1TB兩種選擇。華為Mate70系列匯聚了哪些黑科技呢?以下是其主要的黑科技亮點(diǎn):AI交互方式:華為Mate70系列帶來(lái)了全新的AI交互方式,
    的頭像 發(fā)表于 11-27 01:01 ?1724次閱讀
    智能<b class='flag-5'>手機(jī)</b>MATE 70有哪些黑科技?

    華為Mate X6折疊屏手機(jī)預(yù)約開(kāi)啟,即將發(fā)布

    和顏色選項(xiàng),以滿足不同消費(fèi)者的需求。具體來(lái)說(shuō),該機(jī)型提供了12+512GB16+512GB典藏版及16GB+1TB典藏版三種存儲(chǔ)配置,讓消費(fèi)者可以根據(jù)自己的使用習(xí)慣和需求選擇合適的版
    的頭像 發(fā)表于 11-21 11:27 ?1119次閱讀

    英偉達(dá)推出GB200 NVL4平臺(tái):整合了兩個(gè)GB200芯片

    11月19日消息,人工智能(AI)芯片大廠英偉達(dá)(NVIDIA)正式推出了兩個(gè)全新的AI解決方案硬件平臺(tái),一個(gè)是BlackwellGB200NVL4,一個(gè)是HopperH200NVL。據(jù)介紹,英偉達(dá)
    的頭像 發(fā)表于 11-21 01:06 ?860次閱讀
    英偉達(dá)推出<b class='flag-5'>GB</b>200 NVL4平臺(tái):整合了兩個(gè)<b class='flag-5'>GB</b>200芯片

    上新!米爾-新唐MA35D1核心板512M DDR新配置發(fā)布!

    存儲(chǔ)器工作溫度 MYC-LMA35-8E256D-80-I MA35D16A887C 芯片內(nèi)置256MB DDR3L 8GB eMMC -40℃~+85℃ MYC-LMA35-8E512
    發(fā)表于 11-08 18:01

    SK海力士推出48GB 16層HBM3E產(chǎn)品

    近日在一次科技展覽上,SK海力士驚艷亮相,展出了全球首款48GB 16層HBM3E(High Bandwidth Memory 3E)產(chǎn)品。這一突破性產(chǎn)品不僅展示了SK海力士在高端存儲(chǔ)技術(shù)領(lǐng)域
    的頭像 發(fā)表于 11-05 15:01 ?828次閱讀

    AI模型與傳統(tǒng)機(jī)器學(xué)習(xí)的區(qū)別

    AI模型與傳統(tǒng)機(jī)器學(xué)習(xí)在多個(gè)方面存在顯著的區(qū)別。以下是對(duì)這些區(qū)別的介紹: 一、模型規(guī)模與復(fù)雜度 AI模型 :通常包含數(shù)十億甚至數(shù)萬(wàn)億的參
    的頭像 發(fā)表于 10-23 15:01 ?2566次閱讀

    WINBOND 4Gb NAND W25N04KV SPI存儲(chǔ)器如何與PSoC Creator相連接?

    我有一個(gè) WINBOND 4Gb NAND W25N04KV SPI 存儲(chǔ)器。我想使用 PSoC creator 讀寫(xiě)。最簡(jiǎn)單的方法是什么?我在 YouTube 上看到過(guò)一些教程,人們使用 SPI
    發(fā)表于 07-23 06:39