開源LLM在各種基準(zhǔn)上的代理能力

采用ChatGPT的企業(yè)可能會(huì)擔(dān)心API調(diào)用的巨大成本、服務(wù)中斷、數(shù)據(jù)所有權(quán)和隱私問題，以及其他不可預(yù)測的事件，如最近關(guān)于董事會(huì)解雇CEO Sam Al...

2023-12-04 標(biāo)簽：人工智能OpenAIChatGPT 1279 0

聚焦于用LLMs模擬國際沖突的研究

本實(shí)驗(yàn)旨在驗(yàn)證LLM在模擬復(fù)雜歷史事件方面的有效性。實(shí)驗(yàn)選用了OpenAI開發(fā)的GPT-4作為后端模型，討論以下問題。

2023-12-04 標(biāo)簽：OpenAILLM 480 0

大模型對(duì)話系統(tǒng)的內(nèi)功與外功

Zero-shot Setting：在 O-Cue 中，由于單步指令較復(fù)雜（不要要進(jìn)行推理還要進(jìn)行回復(fù)生成，以及生成的格式要求），單步生成內(nèi)容過多，導(dǎo)致...

2023-12-01 標(biāo)簽：數(shù)據(jù)集大模型LLM 751 0

怎樣使用Accelerate庫在多GPU上進(jìn)行LLM推理呢？

大型語言模型(llm)已經(jīng)徹底改變了自然語言處理領(lǐng)域。隨著這些模型在規(guī)模和復(fù)雜性上的增長，推理的計(jì)算需求也顯著增加。

2023-12-01 標(biāo)簽：GPU芯片自然語言處理LLM 1833 0

Long-Context下LLM模型架構(gòu)全面介紹

隨著ChatGPT的快速發(fā)展，基于Transformer的大型語言模型(LLM)為人工通用智能(AGI)鋪平了一條革命性的道路，并已應(yīng)用于知識(shí)庫、人機(jī)界...

2023-11-27 標(biāo)簽：模型深度學(xué)習(xí)ChatGPT 3304 0

為什么Agent落地這么難？AI最大賽道Agent機(jī)遇全解析

“如果一篇論文提出了某種不同的訓(xùn)練方法，OpenAI內(nèi)部會(huì)嗤之以鼻，認(rèn)為都是我們玩剩下的。但是當(dāng)新的AI Agent論文出來時(shí)，我們會(huì)十分認(rèn)真且興奮地討...

2023-11-25 標(biāo)簽：SQLGPTOpenAI 2310 0

基于ICL范式的LLM的最高置信度預(yù)測方案

本文假設(shè)不同的ICL為LLM提供了關(guān)于任務(wù)的不同知識(shí)，導(dǎo)致對(duì)相同數(shù)據(jù)的不同理解和預(yù)測。因此，一個(gè)直接的研究問題出現(xiàn)了:llm能否用多個(gè)ICL提示輸入來增...

2023-11-24 標(biāo)簽：轉(zhuǎn)換器Sample自然語言 1869 0

解讀大模型FP量化的解決方案

在 LLaMA, BERT 以及 ViTs 模型上，4-bit 量化皆取得了遠(yuǎn)超 SOTA 的結(jié)果。特別是，這篇文章展示了 4-bit 量化的 LLaM...

2023-11-24 標(biāo)簽：浮點(diǎn)數(shù)大模型LLM 1129 0

如何基于亞馬遜云科技LLM相關(guān)工具打造知識(shí)庫

背景 本篇將為大家闡述亞馬遜云科技大語言模型下沉到具體行業(yè)進(jìn)行場景以及實(shí)施案例的介紹，是亞馬遜云科技官方《基于智能搜索和大模型打造企業(yè)下一代知識(shí)庫》系列...

2023-11-23 標(biāo)簽：測試亞馬遜LLM 1304 0

基于單一LLM的情感分析方法的局限性

LLM的發(fā)展為情感分析任務(wù)帶來的新的解決方案。有研究人員使用LLM，在上下文學(xué)習(xí)(in-context learning, ICL)的范式下，僅使用少量...

2023-11-23 標(biāo)簽：生成器自然語言處理半監(jiān)督學(xué)習(xí) 1138 0

LLM的幻覺問題最新綜述

幻覺被描述為無意義或不忠實(shí)于所提供源內(nèi)容的生成內(nèi)容。根據(jù)與源內(nèi)容的矛盾，這些幻覺又進(jìn)一步分為內(nèi)在幻覺和外在幻覺。在LLMs中，幻覺的范圍包含了一個(gè)更廣泛...

2023-11-22 標(biāo)簽：人工智能渦輪增壓ChatGPT 1445 0

基于大語言模型的共情回復(fù)生成：實(shí)證研究和改進(jìn)

對(duì)以ChatGPT為代表的LLMs在共情回復(fù)生成上的表現(xiàn)進(jìn)行了全面的實(shí)證研究，LLMs在現(xiàn)有的基準(zhǔn)數(shù)據(jù)集上，對(duì)比以往的SOTA模型，表現(xiàn)極其優(yōu)越。

2023-11-21 標(biāo)簽：編碼器GPTChatGPT 1625 1

基于顯式證據(jù)推理的few-shot關(guān)系抽取CoT

最近，上下文學(xué)習(xí)策略已被證明在沒有訓(xùn)練的情況下顯示出顯著的結(jié)果。很少有研究利用上下文學(xué)習(xí)進(jìn)行zero-shot信息提取。不幸的是，推理的證據(jù)在思維鏈提示...

2023-11-20 標(biāo)簽：語言模型nlpLLM 1212 0

使用MLC-LLM支持RWKV-5推理的過程思考

對(duì)LLM的理解比較有限，從代碼實(shí)現(xiàn)的角度來說，RWKV的狀態(tài)和KV Cache不同，不依賴序列長度，這讓RWKV模型在各種長度下運(yùn)行內(nèi)存和運(yùn)行速度都是趨...

2023-11-19 標(biāo)簽：AndroidgpuLLM 1243 0

LLM推理上的DeepSpeed Inference優(yōu)化實(shí)踐方案

首先將 batch 拆分為 micro-batch，其中 micro-batch 數(shù)等于 pipeline 深度，micro-batch通過動(dòng)態(tài)隊(duì)列的順...

2023-11-16 標(biāo)簽：cpugpu內(nèi)存 3860 0

怎樣讓PPO訓(xùn)練更穩(wěn)定？早期人類征服RLHF的馴化經(jīng)驗(yàn)

盡管魯迅先生曾言：真的強(qiáng)化敢于直面慘淡的結(jié)果，敢于正視崩壞的曲線。但日復(fù)一復(fù)地開盲盒難免會(huì)讓人心臟承受不了，好在前人們留下了寶貴的馴化經(jīng)驗(yàn)，今天讓我們一...

2023-11-16 標(biāo)簽：噪聲語言模型LLM 1038 0

基于檢索的大語言模型簡介

簡介章節(jié)講的是比較基礎(chǔ)的，主要介紹了本次要介紹的概念，即檢索（Retrieval）和大語言模型（LLM）

2023-11-15 標(biāo)簽：語言模型LLM 962 0

LLM作用下的成分句法分析基礎(chǔ)研究

采用伯克利神經(jīng)解析器（Berkeley Neural Parser）作為方法的基礎(chǔ)。該解析器是一種基于圖表的方法，采用自注意力編碼器和圖表解碼器，利用預(yù)...

2023-11-10 標(biāo)簽：語言模型語法LLM 664 0

怎樣使用Streamlit創(chuàng)建AutoGen用戶界面？

AutoGen作為一個(gè)最大化LLM(如GPT-4)能力的框架而脫穎而出。

2023-11-08 標(biāo)簽：GPTLLM 939 0