Meta公司的Llama2語言模型4項測試通過率低，幻覺率高
據(jù)了解，人工智能安全企業(yè) DeepKeep日前發(fā)表了一份評估報告。報告指出，Meta公司旗下LlamA 2大型語言模型在13個風(fēng)險評估類別中的表現(xiàn)僅為4項合格。
報告特別強(qiáng)調(diào)，擁有70億參數(shù)的LlamA 2 7B模型存在嚴(yán)重的幻覺現(xiàn)象，其回答的真實性和準(zhǔn)確性令人堪憂，幻覺率高達(dá)48%。
DeepKeep對此表示擔(dān)憂，認(rèn)為該模型存在明顯的幻覺傾向，可能會導(dǎo)致大量錯誤信息的傳播。
此外，LlamA 2模型還存在注入和操縱的潛在風(fēng)險。報告顯示，在80%的情況下，通過“提示注入”的手段，攻擊者可輕易操控LlamA的輸出，從而將用戶引流至惡意網(wǎng)站。
聲明：本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問題，請聯(lián)系本站處理。
舉報投訴
-
人工智能
+關(guān)注
關(guān)注
1807文章
49035瀏覽量
249745 -
Meta
+關(guān)注
關(guān)注
0文章
303瀏覽量
11873 -
語言模型
+關(guān)注
關(guān)注
0文章
561瀏覽量
10801
發(fā)布評論請先 登錄
相關(guān)推薦
熱點推薦
使用 NPU 插件對量化的 Llama 3.1 8b 模型進(jìn)行推理時出現(xiàn)“從 __Int64 轉(zhuǎn)換為無符號 int 的錯誤”，怎么解決？
安裝了 OpenVINO? GenAI 2024.4。
使用以下命令量化 Llama 3.1 8B 模型：
optimum-cli export openvino -m meta-llama
發(fā)表于 06-25 07:20
無法在OVMS上運(yùn)行來自Meta的大型語言模型 （LLM），為什么?
無法在 OVMS 上運(yùn)行來自 Meta 的大型語言模型 （LLM），例如 LLaMa2。
從 OVMS GitHub* 存儲庫運(yùn)行 llama
發(fā)表于 03-05 08:07
Meta重磅發(fā)布Llama 3.3 70B：開源AI模型的新里程碑
?在人工智能領(lǐng)域，Meta的最新動作再次引起了全球的關(guān)注。今天，我們見證了Meta發(fā)布的 Llama 3.3 70B 模型，這是一個開源的人工智能模
Meta發(fā)布新AI模型Meta Motivo，旨在提升元宇宙體驗
Meta公司近日宣布，將推出一款名為Meta Motivo的全新人工智能模型。該模型具備控制類似人類的數(shù)字代理動作的能力，有望為元宇宙的用戶
Meta推出Llama 3.3 70B，AI大模型競爭白熱化
在今年的AI領(lǐng)域，Meta也不甘落后，推出了其壓軸之作——Llama 3.3 70B大模型。與此同時，馬斯克的xAI也宣布其Grok模型從今天起全球免費(fèi)開放(但存在一定的使用限制)。
使用NVIDIA TensorRT提升Llama 3.2性能
Llama 3.2 模型集擴(kuò)展了 Meta Llama 開源模型集的模型陣容，包含視覺
Meta發(fā)布Llama 3.2量化版模型
近日，Meta在開源Llama 3.2的1B與3B模型后，再次為人工智能領(lǐng)域帶來了新進(jìn)展。10月24日，Meta正式推出了這兩個模型的量化版
Llama 3 語言模型應(yīng)用
在人工智能領(lǐng)域，語言模型的發(fā)展一直是研究的熱點。隨著技術(shù)的不斷進(jìn)步，我們見證了從簡單的關(guān)鍵詞匹配到復(fù)雜的上下文理解的轉(zhuǎn)變。 一、Llama 3 語言
扎克伯格:聯(lián)想運(yùn)用Meta Llama大模型打造個人AI助手AI Now
美國西部時間10月15日，聯(lián)想集團(tuán)于美國西雅圖盛大舉辦了一年一度的Tech World大會。會上，聯(lián)想集團(tuán)首席執(zhí)行官楊元慶攜手Meta創(chuàng)始人兼首席執(zhí)行官馬克·扎克伯格，共同揭曉了一項重大合作成果——基于Meta的
使用OpenVINO 2024.4在算力魔方上部署Llama-3.2-1B-Instruct模型
前面我們分享了《三步完成Llama3在算力魔方的本地量化和部署》。2024年9月25日，Meta又發(fā)布了Llama3.2：一個多語言大型語言
亞馬遜云科技上線Meta Llama 3.2模型
亞馬遜云科技近日宣布，Meta公司的新一代模型Llama 3.2已在其平臺上正式上線。該模型包括Meta
亞馬遜云科技正式上線Meta Llama 3.2模型
亞馬遜云科技宣布，Meta的新一代模型Llama 3.2，包括其首款多模態(tài)模型，現(xiàn)已在Amazon Bedrock和Amazon SageMaker中正式可用。
Meta發(fā)布多模態(tài)LLAMA 3.2人工智能模型
Meta Platforms近日宣布了一項重要技術(shù)突破，成功推出了多模態(tài)LLAMA 3.2人工智能模型。這一創(chuàng)新模型不僅能夠深度解析文本信息
Meta Llama 3.1系列模型可在Google Cloud上使用
我們很高興宣布，Llama 3.1 系列模型已添加到 Vertex AI Model Garden，這包括全新的 405B，即 Meta 迄今為止功能最強(qiáng)大、用途最廣泛的模型。這些
Meta發(fā)布全新開源大模型Llama 3.1
科技巨頭Meta近期震撼發(fā)布了其最新的開源人工智能（AI）模型——Llama 3.1，這一舉措標(biāo)志著Meta在AI領(lǐng)域的又一重大突破。Meta
工商網(wǎng)監(jiān)
評論