AI安全基準測試 v0.5: 聚焦通用聊天文本模型安全性
據(jù)了解，國際知名人工智能社區(qū)MLCommons近期推出了AI Safety人工智能安全基準測試的v0.5版，該測試由多領域專家團隊共同打造，以識別并防范AI應用中的潛在風險。
隨著AI技術的快速發(fā)展，相關安全問題也日益凸顯。僅過去數(shù)周內，便有LastPass公司遭遇音頻深度偽造攻擊等案例浮出水面。為了應對這一挑戰(zhàn)，新推出的AI Safety基準測試將成為模型開發(fā)者的有力工具，助力他們構建更為穩(wěn)固的安全防線。
AI Safety基準測試主要通過大型語言模型對各類危險提示詞的反應來評估其安全性。該測試的v0.5版已開始收集社區(qū)反饋，預計將于今年晚些時候推出正式的v1.0版。
v0.5版的AI Safety基準測試主要關注通用聊天文本模型，而v1.0版則將加入針對圖像生成模型的測試內容，并初步探討交互式代理模型的安全測試方法。
該測試涵蓋了超過43000個測試提示詞，采用Meta公司的Llama Guard對大模型的危險提示響應進行評估。這些提示詞包括常見模板及危險場景描述短語，覆蓋七類安全危害類型，未來還將進一步擴展至至少十三類。
最后，AI Safety基準測試將根據(jù)測試結果給出五個安全評級，以便用戶更好地理解和使用。
聲明：本文內容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉載。文章觀點僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用，如有內容侵權或者其他違規(guī)問題，請聯(lián)系本站處理。
舉報投訴
-
人工智能
+關注
關注
1806文章
49008瀏覽量
249321 -
模型
+關注
關注
1文章
3518瀏覽量
50405 -
ai技術
+關注
關注
1文章
1308瀏覽量
25151
發(fā)布評論請先 登錄
相關推薦
熱點推薦
AI應用的“安全鎖”：安全閃存技術在滿足行業(yè)認證中的作用
全面審視并應對網(wǎng)絡攻擊威脅，在確保AI應用持續(xù)穩(wěn)定運行的同時保障其安全性。數(shù)據(jù)投毒、分類模型篡改、后門注入攻擊以及AI模型逆向工程，這些僅僅
發(fā)表于 07-15 10:51
?795次閱讀
電氣設備的安全性與絕緣性能測試
電氣設備在現(xiàn)代生產中的廣泛應用極大地提升了生產效率，但同時也帶來了潛在的安全風險。觸電事故和電氣火災的發(fā)生，使得電氣設備的安全性成為產品質量的首要考量因素。耐壓測試耐壓測試，也稱為介電
大語言模型在軍事應用中的安全性考量
和缺乏透明度。這些危險無疑讓人們對在軍隊中使用 LLM 是否合適產生了疑問。 迄今為止，安全專家主要從傳統(tǒng)法律或網(wǎng)絡安全的角度來關注這種新型人工智能技術的風險。在這方面，防護欄可防止 LLM 生成攻擊性或惡意內容，水印可用于檢測
AI如何增強車輛安全性和用戶交互性
、降低死亡率。AI 運用在預測性安全功能和駕駛輔助系統(tǒng)中，大大增強了行駛過程的安全性，讓人感覺宛如擁有了一位反應力超乎常人的副駕駛員。但是，與大眾普遍認知不同的是，
如何實現(xiàn) HTTP 協(xié)議的安全性
協(xié)議的安全性，可以采取以下幾種方法： 1. 使用HTTPS HTTPS（安全超文本傳輸協(xié)議）是HTTP的安全版本，它在HTTP的基礎上通過SSL/TLS協(xié)議提供了數(shù)據(jù)加密、數(shù)據(jù)完整
MLCommons推出AI基準測試0.5版
Client 基準測試 0.5 版是基于 meta 的 Llama 2 7B 開源 LLM，它包含四項 AI 任務，分別是內容創(chuàng)作、創(chuàng)意撰寫以及對兩份長度不同的
電池的安全性測試項目有哪些?
電池的安全性測試是保證電池在實際使用過程中穩(wěn)定、安全的重要手段。通過一系列嚴格的測試項目，能夠有效評估電池在不同條件下的表現(xiàn)，并提前發(fā)現(xiàn)潛在的安全
電池安全性測試關鍵：圓柱與軟包電池測試設備指南
機、過充/過放測試儀、熱失控測試儀、電池短路測試儀以及壓力測試機等。通過這些儀器的配合使用，可以全面檢測電池的安全性、可靠
在電氣安裝中通過負載箱實現(xiàn)最大效率和安全性
在電氣安裝中，負載箱是一種常用的設備，主要用于模擬實際的電力負載，以便進行各種電氣設備的測試和調試。通過負載箱，可以實現(xiàn)最大效率和安全性，從而提高電氣設備的運行性能和使用壽命。
負載箱可以實現(xiàn)最大
發(fā)表于 11-20 15:24
AI即服務平臺的安全性分析
AIaaS平臺降低AI應用門檻，但面臨數(shù)據(jù)泄露、惡意攻擊等安全威脅。需加強數(shù)據(jù)加密、訪問控制、模型加固、供應鏈安全等措施，確保合法合規(guī)，提供安全
智能系統(tǒng)的安全性分析
）和非對稱加密（如RSA）等技術，確保數(shù)據(jù)在存儲和傳輸過程中的機密性。 加密算法應經過廣泛驗證和測試，以確保其安全性和可靠性。 數(shù)據(jù)完整性
固態(tài)電池安全性怎么樣
固態(tài)電池在安全性方面表現(xiàn)出顯著的優(yōu)勢，這主要得益于其獨特的固態(tài)電解質結構。以下是對固態(tài)電池安全性的詳細分析：
NVIDIA文本嵌入模型NV-Embed的精度基準
NVIDIA 的最新嵌入模型 NV-Embed —— 以 69.32 的分數(shù)創(chuàng)下了嵌入準確率的新紀錄海量文本嵌入基準測試（MTEB）涵蓋 56 項嵌入任務。
工商網(wǎng)監(jiān)
評論