一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

性能與安全同樣重要,蘋果的AI服務(wù)器

E4Life ? 來源:電子發(fā)燒友 ? 作者:周凱揚(yáng) ? 2024-06-25 00:10 ? 次閱讀

在不久前結(jié)束的WWDC2024上,蘋果宣布了自己的AI方案Apple Intelligence,并計(jì)劃將其深度集成到iOS 18、iPadOS 18和macOS Sequoia。Apple Intelligence通過生成式模型來改善用戶的使用體驗(yàn)。事實(shí)上,蘋果一共有兩個自主開發(fā)的AI模型,一個用于設(shè)備端AI的30億參數(shù)模型,以及一個更大的LLM,其服務(wù)器資源滿足更多的查詢。

蘋果AI服務(wù)器的軟硬件組成

蘋果將其AI服務(wù)器稱為私有云計(jì)算節(jié)點(diǎn)(PCC),這是蘋果基于定制化服務(wù)器硬件打造的基礎(chǔ)設(shè)施,也是蘋果芯片在數(shù)據(jù)中心的首度應(yīng)用。不過PCC并沒有搭載蘋果的任一消費(fèi)級系統(tǒng),而是基于iOS和macOS打造了一個強(qiáng)化子集系統(tǒng),專為支持LLM推理量身定制。

正因其硬件架構(gòu)的統(tǒng)一性,蘋果在設(shè)備端AI和AI服務(wù)器做到了高度一致。不過PCC用于推理,并不代表蘋果為其選擇了一樣的訓(xùn)練設(shè)備。根據(jù)蘋果的說法,他們在預(yù)訓(xùn)練階段,依然采用的是云端的TPU和GPU資源。由此也可以看出,在大模型的訓(xùn)練資源上,蘋果選擇了與谷歌合作。

這也完全可以理解,谷歌作為TensorFlow開發(fā)者,不少基于TensorFlow開發(fā)的ML模型,都能在谷歌的TPU上獲得極高的訓(xùn)練效率。不過對于蘋果而言,他們的軟件棧并不會鎖死在一個云服務(wù)供應(yīng)商上,而是可以擴(kuò)展并運(yùn)行在其他平臺上。

AI服務(wù)器的安全性

相比起AI服務(wù)器的性能,用戶可能更在意的是隱私安全問題。畢竟在數(shù)據(jù)中心的強(qiáng)大AI硬件和大模型,如果沒有對用戶請求的未加密訪問和相關(guān)的個人數(shù)據(jù),也就很難給到精準(zhǔn)的答案。對于終端設(shè)備廠商,同時也是這些AI服務(wù)器的擁有者而言,如何做好端到端加密,也就成為最大的挑戰(zhàn)。

蘋果也指出了AI服務(wù)器面臨的幾大挑戰(zhàn):1、云端AI安全和隱私保障難以得到驗(yàn)證和執(zhí)行;2、很難在云端為AI提供運(yùn)行時透明;3、云端AI環(huán)境很難對特權(quán)訪問做出強(qiáng)有力的限制。為了解決這些挑戰(zhàn),蘋果在AI服務(wù)器的設(shè)計(jì)上下了不少功夫,首先就是無狀態(tài)計(jì)算。用戶的設(shè)備將數(shù)據(jù)發(fā)送到PCC唯一目的就是滿足推理需求,PCC僅使用這些數(shù)據(jù)來執(zhí)行用戶請求的操作,且數(shù)據(jù)只停留在處理請求的PCC節(jié)點(diǎn)上,無論是蘋果、管理員都無法獲得用戶數(shù)據(jù)。

在可驗(yàn)證的透明度上,蘋果甚至做到了超過一些主流云服務(wù)商,他們將會公開PCC的生產(chǎn)版本軟件鏡像用于安全研究。蘋果自己也會發(fā)布和維護(hù)一套官方軟件工具,供研究人員分析PCC節(jié)點(diǎn)上的軟件。除此之外,蘋果的安全賞金計(jì)劃也適用于PCC,重要的研究成果同樣可以獲得該計(jì)劃的獎勵。

當(dāng)然了,硬件提供的安全性也不可忽視,由于PCC基于蘋果芯片打造,所以也包含了iPhone中的安全隔區(qū)和安全啟動兩大安全子系統(tǒng)。這為其提供了非定位的安全性,攻擊者無法針對特定用戶的數(shù)據(jù)來發(fā)動攻擊,只能靠大規(guī)模攻擊來實(shí)現(xiàn),這樣被發(fā)現(xiàn)的概率也會一并變高。

寫在最后

蘋果在大規(guī)模AI模型上的軟件開發(fā)倒是很早就開始了,不過在硬件上,蘋果還是落后于頭部的云服務(wù)廠商。不過蘋果只是基于自研芯片打造屬于自己的AI服務(wù)器,相較直接采用第三方方案,對于終端的用戶而言,或許這才是保證性能和安全性的最佳路徑。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 蘋果
    +關(guān)注

    關(guān)注

    61

    文章

    24518

    瀏覽量

    202457
  • AI服務(wù)器
    +關(guān)注

    關(guān)注

    2

    文章

    126

    瀏覽量

    5080
收藏 人收藏

    評論

    相關(guān)推薦

    RAKsmart服務(wù)器如何賦能AI開發(fā)與部署

    AI開發(fā)與部署的復(fù)雜性不僅體現(xiàn)在算法設(shè)計(jì)層面,更依賴于底層基礎(chǔ)設(shè)施的支撐能力。RAKsmart服務(wù)器憑借其高性能硬件架構(gòu)、靈活的資源調(diào)度能力以及面向AI場景的深度優(yōu)化,正在成為企業(yè)突破
    的頭像 發(fā)表于 04-30 09:22 ?87次閱讀

    AI 推理服務(wù)器都有什么?2025年服務(wù)器品牌排行TOP10與選購技巧

    根據(jù)行業(yè)數(shù)據(jù),AI推理服務(wù)器性能差異可以達(dá)到10倍以上。比如,用普通服務(wù)器跑一個700億參數(shù)的大模型,可能需要30秒才能出結(jié)果,而用頂級服務(wù)器
    的頭像 發(fā)表于 04-09 11:06 ?457次閱讀
    <b class='flag-5'>AI</b> 推理<b class='flag-5'>服務(wù)器</b>都有什么?2025年<b class='flag-5'>服務(wù)器</b>品牌排行TOP10與選購技巧

    大功率AI服務(wù)器PSU的革新之路

    在人工智能浪潮的席卷下,AI服務(wù)器作為支撐各類復(fù)雜AI運(yùn)算的關(guān)鍵硬件,其電源(PSU)的性能表現(xiàn)成為了決定整個系統(tǒng)效能的重要因素。作為大功率
    的頭像 發(fā)表于 03-10 15:07 ?592次閱讀
    大功率<b class='flag-5'>AI</b><b class='flag-5'>服務(wù)器</b>PSU的革新之路

    AI服務(wù)器產(chǎn)品靜電浪涌防護(hù)方案 | 全接口防護(hù),筑牢AI服務(wù)器安全防線

    隨著人工智能(AI)技術(shù)的快速發(fā)展,AI服務(wù)器作為支撐AI計(jì)算的核心設(shè)備,其穩(wěn)定性和可靠性至關(guān)重要。然而,靜電放電(ESD)和浪涌問題一直是
    的頭像 發(fā)表于 02-14 18:55 ?236次閱讀
    <b class='flag-5'>AI</b><b class='flag-5'>服務(wù)器</b>產(chǎn)品靜電浪涌防護(hù)方案 | 全接口防護(hù),筑牢<b class='flag-5'>AI</b><b class='flag-5'>服務(wù)器</b><b class='flag-5'>安全</b>防線

    蘋果與博通聯(lián)手開發(fā)AI服務(wù)器芯片

    近日,據(jù)最新消息,蘋果正在與其長期合作伙伴博通攜手,共同研發(fā)一款名為“Baltra”的服務(wù)器芯片。這款芯片專為人工智能設(shè)計(jì),預(yù)示著蘋果AI領(lǐng)域邁出了
    的頭像 發(fā)表于 12-12 10:19 ?587次閱讀

    萬協(xié)通高性能服務(wù)器安全芯片首發(fā)!驅(qū)動數(shù)智化安全新未來

    近日,國內(nèi)前沿的芯片解決方案提供商萬協(xié)通,攜其自主研發(fā)的高性能服務(wù)器安全芯片系列產(chǎn)品閃耀亮相2024中國國際社會公共安全產(chǎn)品博覽會(簡稱“安博會”),其憑借出色的
    的頭像 發(fā)表于 10-24 18:01 ?472次閱讀

    GPU高性能服務(wù)器配置

    GPU高性能服務(wù)器作為提升計(jì)算速度和效率的關(guān)鍵設(shè)備,在各大應(yīng)用場景中發(fā)揮著越來越重要的作用。在此,petacloud.ai小編為你介紹GPU高性能
    的頭像 發(fā)表于 10-21 10:42 ?647次閱讀

    最強(qiáng)服務(wù)器CPU來了!AI性能直接翻倍

    以及AI服務(wù)器AI數(shù)據(jù)中心場景的CPU產(chǎn)品。它不僅能支持廣泛的第三方GPU及AI加速,與它們組合形成強(qiáng)大的異構(gòu)計(jì)算平臺,還能在其中補(bǔ)足G
    的頭像 發(fā)表于 09-29 11:00 ?870次閱讀
    最強(qiáng)<b class='flag-5'>服務(wù)器</b>CPU來了!<b class='flag-5'>AI</b><b class='flag-5'>性能</b>直接翻倍

    什么是AI服務(wù)器?AI服務(wù)器的優(yōu)勢是什么?

    AI服務(wù)器是一種專門為人工智能應(yīng)用設(shè)計(jì)的服務(wù)器,它采用異構(gòu)形式的硬件架構(gòu),通常搭載GPU、FPGA、ASIC等加速芯片,利用CPU與加速芯片的組合來滿足高吞吐量互聯(lián)的需求,為自然語言處理、計(jì)算機(jī)視覺、機(jī)器學(xué)習(xí)等人工智能應(yīng)用場景提
    的頭像 發(fā)表于 09-21 11:43 ?1639次閱讀

    洛杉物理服務(wù)器怎么樣?

    洛杉磯作為美國科技和互聯(lián)網(wǎng)的重要中心,物理服務(wù)器的質(zhì)量通常非常高,可以提供卓越的性能、強(qiáng)大的安全性、多樣的配置選項(xiàng)和專業(yè)的服務(wù)支持。以下是對
    的頭像 發(fā)表于 08-16 09:58 ?345次閱讀

    新加坡服務(wù)器vsping主機(jī)性能與配置測評

    新加坡服務(wù)器vsping主機(jī)在性能與配置上均表現(xiàn)出色。其配置通常包括高性能的CPU(如IntelXeon系列)、充足的內(nèi)存(如32GB至256GBDDR4類型)以及高速的SSD固態(tài)硬盤,確保數(shù)據(jù)處理
    的頭像 發(fā)表于 08-12 13:26 ?376次閱讀

    AI服務(wù)器:開啟智能計(jì)算新時代

    一、AI服務(wù)器的定義與特點(diǎn) AI服務(wù)器的定義 AI服務(wù)器是一種基于云計(jì)算技術(shù),專為處理人工
    的頭像 發(fā)表于 08-09 16:08 ?1425次閱讀

    如何評估美國洛杉磯高防服務(wù)器性能

    評估美國洛杉磯高防服務(wù)器性能對于確保網(wǎng)站或應(yīng)用程序的穩(wěn)定性和安全性至關(guān)重要。高防服務(wù)器通常被用來抵御分布式拒絕
    的頭像 發(fā)表于 07-31 09:52 ?447次閱讀

    ai服務(wù)器是什么架構(gòu)類型

    AI服務(wù)器,即人工智能服務(wù)器,是專門為人工智能應(yīng)用設(shè)計(jì)的高性能計(jì)算服務(wù)器。AI
    的頭像 發(fā)表于 07-02 09:51 ?1587次閱讀

    ai服務(wù)器和通用服務(wù)器的區(qū)別在哪

    AI服務(wù)器和通用服務(wù)器的區(qū)別主要體現(xiàn)在以下幾個方面: 硬件配置 AI服務(wù)器和通用服務(wù)器在硬件配置
    的頭像 發(fā)表于 07-02 09:46 ?1643次閱讀