Meta公司的Llama2語言模型4項測試通過率低，幻覺率高
據(jù)了解，人工智能安全企業(yè) DeepKeep日前發(fā)表了一份評估報告。報告指出，Meta公司旗下LlamA 2大型語言模型在13個風險評估類別中的表現(xiàn)僅為4項合格。
報告特別強調(diào)，擁有70億參數(shù)的LlamA 2 7B模型存在嚴重的幻覺現(xiàn)象，其回答的真實性和準確性令人堪憂，幻覺率高達48%。
DeepKeep對此表示擔憂，認為該模型存在明顯的幻覺傾向，可能會導致大量錯誤信息的傳播。
此外，LlamA 2模型還存在注入和操縱的潛在風險。報告顯示，在80%的情況下，通過“提示注入”的手段，攻擊者可輕易操控LlamA的輸出，從而將用戶引流至惡意網(wǎng)站。
聲明：本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問題，請聯(lián)系本站處理。
舉報投訴
-
人工智能
+關(guān)注
關(guān)注
1804文章
48477瀏覽量
245193 -
Meta
+關(guān)注
關(guān)注
0文章
299瀏覽量
11675 -
語言模型
+關(guān)注
關(guān)注
0文章
558瀏覽量
10612
發(fā)布評論請先 登錄
相關(guān)推薦
熱點推薦
無法在OVMS上運行來自Meta的大型語言模型 （LLM），為什么?
無法在 OVMS 上運行來自 Meta 的大型語言模型 （LLM），例如 LLaMa2。
從 OVMS GitHub* 存儲庫運行 llama
發(fā)表于 03-05 08:07
Meta重磅發(fā)布Llama 3.3 70B：開源AI模型的新里程碑
?在人工智能領(lǐng)域，Meta的最新動作再次引起了全球的關(guān)注。今天，我們見證了Meta發(fā)布的 Llama 3.3 70B 模型，這是一個開源的人工智能模
使用NVIDIA TensorRT提升Llama 3.2性能
Llama 3.2 模型集擴展了 Meta Llama 開源模型集的模型陣容，包含視覺
Meta發(fā)布Llama 3.2量化版模型
近日，Meta在開源Llama 3.2的1B與3B模型后，再次為人工智能領(lǐng)域帶來了新進展。10月24日，Meta正式推出了這兩個模型的量化版
Llama 3 語言模型應(yīng)用
在人工智能領(lǐng)域，語言模型的發(fā)展一直是研究的熱點。隨著技術(shù)的不斷進步，我們見證了從簡單的關(guān)鍵詞匹配到復雜的上下文理解的轉(zhuǎn)變。 一、Llama 3 語言
扎克伯格:聯(lián)想運用Meta Llama大模型打造個人AI助手AI Now
美國西部時間10月15日，聯(lián)想集團于美國西雅圖盛大舉辦了一年一度的Tech World大會。會上，聯(lián)想集團首席執(zhí)行官楊元慶攜手Meta創(chuàng)始人兼首席執(zhí)行官馬克·扎克伯格，共同揭曉了一項重大合作成果——基于Meta的
使用OpenVINO 2024.4在算力魔方上部署Llama-3.2-1B-Instruct模型
前面我們分享了《三步完成Llama3在算力魔方的本地量化和部署》。2024年9月25日，Meta又發(fā)布了Llama3.2：一個多語言大型語言
亞馬遜云科技上線Meta Llama 3.2模型
亞馬遜云科技近日宣布，Meta公司的新一代模型Llama 3.2已在其平臺上正式上線。該模型包括Meta
亞馬遜云科技正式上線Meta Llama 3.2模型
亞馬遜云科技宣布，Meta的新一代模型Llama 3.2，包括其首款多模態(tài)模型，現(xiàn)已在Amazon Bedrock和Amazon SageMaker中正式可用。
Meta發(fā)布多模態(tài)LLAMA 3.2人工智能模型
Meta Platforms近日宣布了一項重要技術(shù)突破，成功推出了多模態(tài)LLAMA 3.2人工智能模型。這一創(chuàng)新模型不僅能夠深度解析文本信息
Meta Llama 3.1系列模型可在Google Cloud上使用
我們很高興宣布，Llama 3.1 系列模型已添加到 Vertex AI Model Garden，這包括全新的 405B，即 Meta 迄今為止功能最強大、用途最廣泛的模型。這些
Meta發(fā)布全新開源大模型Llama 3.1
科技巨頭Meta近期震撼發(fā)布了其最新的開源人工智能（AI）模型——Llama 3.1，這一舉措標志著Meta在AI領(lǐng)域的又一重大突破。Meta
摩爾線程和滴普科技完成大模型訓練與推理適配
近日，摩爾線程與滴普科技宣布了一項重要合作成果。摩爾線程的夸娥（KUAE）千卡智算集群與滴普科技的企業(yè)大模型Deepexi已完成訓練及推理適配，共同實現(xiàn)了700億參數(shù)LLaMA2大語言
Meta Llama 3基礎(chǔ)模型現(xiàn)已在亞馬遜云科技正式可用
亞馬遜云科技近日宣布，Meta公司最新發(fā)布的兩款Llama 3基礎(chǔ)模型——Llama 3 8B和Llam
高通支持Meta Llama 3在驍龍終端上運行
高通與Meta攜手合作，共同推動Meta的Llama 3大語言模型（LLM）在驍龍驅(qū)動的各類終端
工商網(wǎng)監(jiān)
評論