VPG 在 LLM 之間的可遷移性問(wèn)題

通過(guò)我們的VPGTrans框架可以根據(jù)需求為各種新的大語(yǔ)言模型靈活添加視覺(jué)模塊。比如我們?cè)贚LaMA-7B和Vicuna-7B基礎(chǔ)上制作了VL-LLaM...

2023-05-17 標(biāo)簽：開(kāi)源模型LLM 854 0

自然語(yǔ)言處理應(yīng)用LLM推理優(yōu)化綜述

當(dāng)前，業(yè)界在將傳統(tǒng)優(yōu)化技術(shù)引入 LLM 推理的同時(shí)，同時(shí)也在探索從大模型自回歸解碼特點(diǎn)出發(fā)，通過(guò)調(diào)整推理過(guò)程和引入新的模型結(jié)構(gòu)來(lái)進(jìn)一步提升推理性能。

2024-04-10 標(biāo)簽：人工智能自然語(yǔ)言處理調(diào)度器 844 0

邱錫鵬團(tuán)隊(duì)提出具有內(nèi)生跨模態(tài)能力的SpeechGPT，為多模態(tài)LLM指明方向

大型語(yǔ)言模型（LLM）在各種自然語(yǔ)言處理任務(wù)上表現(xiàn)出驚人的能力。與此同時(shí)，多模態(tài)大型語(yǔ)言模型，如 GPT-4、PALM-E 和 LLaVA，已經(jīng)探索了 ...

2023-05-22 標(biāo)簽：編碼器生成器語(yǔ)言模型 834 0

我們能否擴(kuò)展現(xiàn)有的預(yù)訓(xùn)練 LLM 的上下文窗口

? ? 在大家不斷升級(jí)迭代自家大模型的時(shí)候，LLM（大語(yǔ)言模型）對(duì)上下文窗口的處理能力，也成為一個(gè)重要評(píng)估指標(biāo)。 ? 比如 OpenAI 的 gpt-3...

2023-06-30 標(biāo)簽：編碼窗口模型 817 0

對(duì)話(huà)式LLM用于硬件設(shè)計(jì)

通常，開(kāi)發(fā)任何類(lèi)型的硬件（包括芯片，作為電子設(shè)備大腦的微小電子元件），都是從用正常語(yǔ)言描述硬件應(yīng)該做什么開(kāi)始的。

2023-06-15 標(biāo)簽：HDL語(yǔ)言OpenAIChatGPT 813 0

對(duì)比解碼在LLM上的應(yīng)用

為了改進(jìn)LLM的推理能力，University of California聯(lián)合Meta AI實(shí)驗(yàn)室提出將Contrastive Decoding應(yīng)用于多...

2023-09-21 標(biāo)簽：解碼AI深度學(xué)習(xí) 804 0

移植Mediapipe LLM Demo到Kotlin Multiplatform

在今年的廈門(mén)和廣州 Google I/O Extended 上，我分享了《On-Device Model 集成 (KMP) 與用例》。本文是當(dāng)時(shí) Dem...

2024-12-05 標(biāo)簽：Google移植開(kāi)源 800 0

LLM在生成摘要方面效果到底如何？

文本摘要，作為自然語(yǔ)言生成（NLG）中的一項(xiàng)任務(wù)，主要用來(lái)將一大段長(zhǎng)文本壓縮為簡(jiǎn)短的摘要，例如新聞文章、源代碼和跨語(yǔ)言文本等多種內(nèi)容都能用到。

2023-09-21 標(biāo)簽：源代碼GPT大模型 790 0

OpenVINO 2024.4持續(xù)提升GPU上LLM性能

本次新版本在整個(gè) OpenVINO 產(chǎn)品系列中引入了重要的功能和性能變化，使大語(yǔ)言模型 （LLM） 的優(yōu)化和部署在所有支持的場(chǎng)景中更容易、性能更高，包括...

2024-10-12 標(biāo)簽：處理器英特爾LLM 764 0

大模型對(duì)話(huà)系統(tǒng)的內(nèi)功與外功

Zero-shot Setting：在 O-Cue 中，由于單步指令較復(fù)雜（不要要進(jìn)行推理還要進(jìn)行回復(fù)生成，以及生成的格式要求），單步生成內(nèi)容過(guò)多，導(dǎo)致...

2023-12-01 標(biāo)簽：數(shù)據(jù)集大模型LLM 752 0

英特爾軟硬件構(gòu)建模塊如何幫助優(yōu)化RAG應(yīng)用

深入研究檢索增強(qiáng)生成 (Retrieval Augmented Generation, RAG)，該創(chuàng)新方法定義了企業(yè)和機(jī)構(gòu)如何利用大語(yǔ)言模型(LLM)...

2024-07-24 標(biāo)簽：英特爾軟硬件LLM 724 0

大模型學(xué)習(xí)筆記

Apple最近發(fā)表了一篇文章，可以在iphone, MAC 上運(yùn)行大模型：【LLM in a flash: Efficient Large Langua...

2024-01-08 標(biāo)簽：DRAMMac大模型 721 0

用PaddleNLP在4060單卡上實(shí)踐大模型預(yù)訓(xùn)練技術(shù)

作者：算力魔方創(chuàng)始人/英特爾創(chuàng)新大使劉力 之前我們分享了《從零開(kāi)始訓(xùn)練一個(gè)大語(yǔ)言模型需要投資多少錢(qián)》，其中高昂的預(yù)訓(xùn)練費(fèi)用讓許多對(duì)大模型預(yù)訓(xùn)練技術(shù)感興趣...

2025-02-19 標(biāo)簽：數(shù)據(jù)集大模型LLM 719 0

大語(yǔ)言模型事實(shí)性幻象的實(shí)驗(yàn)性分析

盡管大語(yǔ)言模型能力不斷提升，但一個(gè)持續(xù)存在的挑戰(zhàn)是它們具有產(chǎn)生幻象的傾向。本文構(gòu)建了幻象評(píng)測(cè)基準(zhǔn)HaluEval 2.0，并基于該評(píng)測(cè)框架從預(yù)訓(xùn)練/有監(jiān)...

2024-01-19 標(biāo)簽：開(kāi)源語(yǔ)言模型自然語(yǔ)言處理 684 0

模型與人類(lèi)的注意力視角下參數(shù)規(guī)模擴(kuò)大與指令微調(diào)對(duì)模型語(yǔ)言理解的作用

近期的大語(yǔ)言模型（LLM）在自然語(yǔ)言理解和生成上展現(xiàn)出了接近人類(lèi)的強(qiáng)大能力，遠(yuǎn)遠(yuǎn)優(yōu)于先前的BERT等預(yù)訓(xùn)練模型（PLM）。

2024-01-04 標(biāo)簽：PLM語(yǔ)言模型LLM 671 0

LLM作用下的成分句法分析基礎(chǔ)研究

采用伯克利神經(jīng)解析器（Berkeley Neural Parser）作為方法的基礎(chǔ)。該解析器是一種基于圖表的方法，采用自注意力編碼器和圖表解碼器，利用預(yù)...

2023-11-10 標(biāo)簽：語(yǔ)言模型語(yǔ)法LLM 665 0