英國(guó)AI安全研究所推出AI模型安全評(píng)估平臺(tái)
據(jù)報(bào)道，英國(guó)人工智能安全研究院近日發(fā)布了名為“Inspect”的AI模型安全評(píng)估平臺(tái)，此平臺(tái)采用開(kāi)源技術(shù)且對(duì)全球AI工程師免費(fèi)開(kāi)放，旨在提升模型性能與安全測(cè)評(píng)效率。
Inspect平臺(tái)包括“數(shù)據(jù)集”、“求解器（Solver）”、“評(píng)分器”三大模塊，用于評(píng)估AI模型在核心知識(shí)儲(chǔ)備、推理能力和自主能力等方面的表現(xiàn)。
根據(jù)模型測(cè)試結(jié)果，這些模塊會(huì)對(duì)各項(xiàng)指標(biāo)進(jìn)行評(píng)分。此外，Inspect平臺(tái)還支持Python外掛其他測(cè)試框架。
英國(guó)AI安全研究院院長(zhǎng)Ian Hogarth表示，他們推出Inspect平臺(tái)的初衷在于“堅(jiān)信開(kāi)源的力量”，希望通過(guò)該平臺(tái)激發(fā)更多人參與貢獻(xiàn)，提高AI模型透明度和可重復(fù)性，并降低工程師的研發(fā)成本。
聲明：本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題，請(qǐng)聯(lián)系本站處理。
舉報(bào)投訴
-
人工智能
+關(guān)注
關(guān)注
1807文章
49035瀏覽量
249745 -
模型
+關(guān)注
關(guān)注
1文章
3522瀏覽量
50447 -
開(kāi)源技術(shù)
+關(guān)注
關(guān)注
0文章
389瀏覽量
8176
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
熱點(diǎn)推薦
AI應(yīng)用的“安全鎖”：安全閃存技術(shù)在滿(mǎn)足行業(yè)認(rèn)證中的作用
全面審視并應(yīng)對(duì)網(wǎng)絡(luò)攻擊威脅，在確保AI應(yīng)用持續(xù)穩(wěn)定運(yùn)行的同時(shí)保障其安全性。數(shù)據(jù)投毒、分類(lèi)模型篡改、后門(mén)注入攻擊以及AI模型逆向工程，這些僅僅
發(fā)表于 07-15 10:51
?829次閱讀
威盛電子推出天車(chē)安全AI監(jiān)控方案
近日，威盛電子宣布推出”威盛天車(chē)安全AI監(jiān)控方案”。該方案基于自主研發(fā)的AI技術(shù)，集成行人姿態(tài)識(shí)別、精準(zhǔn)防撞預(yù)警和智能分區(qū)警示等功能，大幅提升橋式起重機(jī)(天車(chē))的
萬(wàn)里紅入選安全大模型及Agentic AI賦能網(wǎng)絡(luò)安全代表性廠商
近日，專(zhuān)注于網(wǎng)絡(luò)安全和數(shù)字風(fēng)險(xiǎn)管理的第三方研究機(jī)構(gòu)安全牛，正式發(fā)布了《Agentic AI安全技術(shù)應(yīng)用報(bào)告》(以下簡(jiǎn)稱(chēng)“報(bào)告”)。報(bào)告依托多
首創(chuàng)開(kāi)源架構(gòu)，天璣AI開(kāi)發(fā)套件讓端側(cè)AI模型接入得心應(yīng)手
模型庫(kù)的限制，聯(lián)發(fā)科還首發(fā)了開(kāi)源彈性架構(gòu)。區(qū)別于過(guò)往的開(kāi)放接口，只能部署特定架構(gòu)模型，開(kāi)放彈性架構(gòu)允許開(kāi)發(fā)者直接調(diào)整平臺(tái)源代碼，無(wú)需等待芯片廠商的支持，即可完成目標(biāo)或其他自研大模型輕松
發(fā)表于 04-13 19:52
《AI Agent 應(yīng)用與項(xiàng)目實(shí)戰(zhàn)》----- 學(xué)習(xí)如何開(kāi)發(fā)視頻應(yīng)用
開(kāi)發(fā)一個(gè)視頻內(nèi)容生成Agent。
訪問(wèn)語(yǔ)聚AI平臺(tái)官網(wǎng) ，進(jìn)行注冊(cè)或登錄。
在平臺(tái)首頁(yè)，了解語(yǔ)聚AI的功能和應(yīng)用場(chǎng)景，特別是其支持的視頻生成相關(guān)的
發(fā)表于 03-05 19:52
IBM在watsonx.ai平臺(tái)推出DeepSeek R1蒸餾模型
，進(jìn)一步增強(qiáng)企業(yè)在安全、治理以及規(guī)模化部署方面的能力。 DeepSeek R1是IBM在AI領(lǐng)域的一項(xiàng)重要?jiǎng)?chuàng)新，它采用了蒸餾模型技術(shù)，能夠在保持模型性能的同時(shí)，顯著減小
AI開(kāi)發(fā)平臺(tái)模型怎么用
AI開(kāi)發(fā)平臺(tái)極大地簡(jiǎn)化了AI應(yīng)用的開(kāi)發(fā)流程，從環(huán)境搭建、模型訓(xùn)練到部署集成，每一步都提供了豐富的工具和資源。那么，AI開(kāi)發(fā)
企業(yè)AI模型托管怎么做的
當(dāng)下，越來(lái)越多的企業(yè)選擇將AI模型托管給專(zhuān)業(yè)的第三方平臺(tái)，以實(shí)現(xiàn)高效、靈活和安全的模型運(yùn)行。下面，AI
美商務(wù)部推動(dòng)AI模型預(yù)部署測(cè)試
性和可靠性，同時(shí)推動(dòng)行業(yè)的健康發(fā)展。 除了與這些企業(yè)的合作，美國(guó)人工智能安全研究所還與英國(guó)的安全研究所攜手，共同發(fā)布了首個(gè)聯(lián)合政府高級(jí)人工智
使用NVIDIA AI平臺(tái)確保醫(yī)療數(shù)據(jù)安全
三井物產(chǎn)株式會(huì)社子公司借助 NVIDIA AI 平臺(tái)實(shí)現(xiàn)數(shù)據(jù)集的安全共享并使用在這些數(shù)據(jù)集上建立的強(qiáng)大模型加速藥物研發(fā)。
AI即服務(wù)平臺(tái)的安全性分析
AIaaS平臺(tái)降低AI應(yīng)用門(mén)檻，但面臨數(shù)據(jù)泄露、惡意攻擊等安全威脅。需加強(qiáng)數(shù)據(jù)加密、訪問(wèn)控制、模型加固、供應(yīng)鏈安全等措施，確保合法合規(guī)，提供
如何評(píng)估AI大模型的效果
評(píng)估AI大模型的效果是一個(gè)復(fù)雜且多維度的過(guò)程，涉及多個(gè)方面的考量。以下是一些關(guān)鍵的評(píng)估方法和步驟： 一、基準(zhǔn)測(cè)試（Benchmarking） 使用標(biāo)準(zhǔn)數(shù)據(jù)集和任務(wù)來(lái)
AI大模型的最新研究進(jìn)展
AI大模型的最新研究進(jìn)展體現(xiàn)在多個(gè)方面，以下是對(duì)其最新進(jìn)展的介紹： 一、技術(shù)創(chuàng)新與突破 生成式AI技術(shù)的爆發(fā) ： 生成式AI技術(shù)正在迅速發(fā)展
《AI for Science：人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新》第二章AI for Science的技術(shù)支撐學(xué)習(xí)心得
的訓(xùn)練和推理提供了強(qiáng)大的算力支持，使得AI在科學(xué)研究中的應(yīng)用更加廣泛和深入。
3. 數(shù)據(jù)驅(qū)動(dòng)的研究范式
第二章還強(qiáng)調(diào)了數(shù)據(jù)在AI for Science中的核心地位。數(shù)據(jù)是
發(fā)表于 10-14 09:16
OpenAI與Anthropic新模型將受美政府評(píng)估
近日，美國(guó)政府宣布了一項(xiàng)重要合作，旨在加強(qiáng)人工智能安全監(jiān)管。根據(jù)協(xié)議，OpenAI與Anthropic兩大AI領(lǐng)軍企業(yè)同意，在推出新的AI模型
工商網(wǎng)監(jiān)
評(píng)論