全面解析大語(yǔ)言模型（LLM）

internal feedback：使用LLM去預(yù)測(cè)生成的plan取得成功的概率、Tree of Thought去對(duì)比不同的plan（有點(diǎn)類似Alpha...

2023-12-05 標(biāo)簽：GPTOpenAI大模型 3059 0

開(kāi)源LLM在各種基準(zhǔn)上的代理能力

采用ChatGPT的企業(yè)可能會(huì)擔(dān)心API調(diào)用的巨大成本、服務(wù)中斷、數(shù)據(jù)所有權(quán)和隱私問(wèn)題，以及其他不可預(yù)測(cè)的事件，如最近關(guān)于董事會(huì)解雇CEO Sam Al...

2023-12-04 標(biāo)簽：人工智能OpenAIChatGPT 1279 0

聚焦于用LLMs模擬國(guó)際沖突的研究

本實(shí)驗(yàn)旨在驗(yàn)證LLM在模擬復(fù)雜歷史事件方面的有效性。實(shí)驗(yàn)選用了OpenAI開(kāi)發(fā)的GPT-4作為后端模型，討論以下問(wèn)題。

2023-12-04 標(biāo)簽：OpenAILLM 480 0

大模型的Scaling Law的概念和推導(dǎo)

對(duì)于Decoder-only的模型，計(jì)算量(Flops), 模型參數(shù)量, 數(shù)據(jù)大小(token數(shù))，三者滿足:。(推導(dǎo)見(jiàn)本文最后) 模型的最終性能...

2023-11-29 標(biāo)簽：GPTOpenAI大模型 2975 0

為什么Agent落地這么難？AI最大賽道Agent機(jī)遇全解析

“如果一篇論文提出了某種不同的訓(xùn)練方法，OpenAI內(nèi)部會(huì)嗤之以鼻，認(rèn)為都是我們玩剩下的。但是當(dāng)新的AI Agent論文出來(lái)時(shí)，我們會(huì)十分認(rèn)真且興奮地討...

2023-11-25 標(biāo)簽：SQLGPTOpenAI 2310 0

Scaling Law大模型設(shè)計(jì)實(shí)操案例

縱軸是"Bits for words", 這也是交叉熵的一個(gè)單位。在計(jì)算交叉熵時(shí)，如果使用以 2 為底的對(duì)數(shù)，交叉熵的單位就是 &q...

2023-11-22 標(biāo)簽：語(yǔ)言模型GPTOpenAI 1006 0

什么是人工智能？人工智能背后的技術(shù)原理和應(yīng)用

圖靈測(cè)試在 20 世紀(jì) 50 年代已經(jīng)提出，那時(shí)沒(méi)有計(jì)算機(jī)。圖靈測(cè)試指測(cè)試者與被測(cè)試者（一個(gè)人或一臺(tái)機(jī)器）隔開(kāi)的情況下，通過(guò)一些裝置（如鍵盤(pán)）向被測(cè)試者...

2023-11-18 標(biāo)簽：機(jī)器人AI人工智能 2891 0

AI基礎(chǔ)軟件框架的基本概念和分類

九章云極、亞馬遜云科技、華為云、阿里云、騰訊云、Databricks和百度云被評(píng)為國(guó)內(nèi)AI基礎(chǔ)軟件市場(chǎng)的 "領(lǐng)導(dǎo)者"。

2023-11-17 標(biāo)簽：AI機(jī)器學(xué)習(xí)GPT 757 0

如何解決LLMs的規(guī)則遵循問(wèn)題呢？

傳統(tǒng)的計(jì)算系統(tǒng)是圍繞計(jì)算機(jī)程序中表達(dá)的指令的執(zhí)行來(lái)設(shè)計(jì)的。相反，語(yǔ)言模型可以遵循用自然語(yǔ)言表達(dá)的指令，或者從大量數(shù)據(jù)中的隱含模式中學(xué)習(xí)該做什么。

2023-11-15 標(biāo)簽：計(jì)算機(jī)人工智能GPT 785 0

探究編輯多模態(tài)大語(yǔ)言模型的可行性

不同于單模態(tài)模型編輯，多模態(tài)模型編輯需要考慮更多的模態(tài)信息。文章出發(fā)點(diǎn)依然從單模態(tài)模型編輯入手，將單模態(tài)模型編輯拓展到多模態(tài)模型編輯，主要從以下三個(gè)方面...

2023-11-09 標(biāo)簽：編碼器語(yǔ)言模型OpenAI 680 0

產(chǎn)品化的GPT，能否為“百模大戰(zhàn)”照亮未來(lái)？

學(xué)OpenAI者生，像OpenAI者死

2023-11-09 標(biāo)簽：AIGPTOpenAI 801 0

全球首款支持 8K（8192）輸入長(zhǎng)度的開(kāi)源向量模型發(fā)布

在大模型時(shí)代，向量模型的重要性進(jìn)一步增強(qiáng)。尤其是在檢索增強(qiáng)生成（RAG）場(chǎng)景中，它成為了一個(gè)核心組件，用于解決大模型的上下文長(zhǎng)度限制、幻覺(jué)問(wèn)題和知識(shí)注入問(wèn)題。

2023-11-02 標(biāo)簽：API聊天機(jī)器人自然語(yǔ)言處理 1355 0

OpenAI圖像檢測(cè)工具曝光，AI生成的99%都能認(rèn)出

今年9月，蘋(píng)果前首席設(shè)計(jì)官Jony Ive（在蘋(píng)果工作了27年）被曝與OpenAI接洽，有消息人士稱奧特曼要開(kāi)發(fā)一種硬件設(shè)備，提供一種與AI交互更自然和...

2023-10-22 標(biāo)簽：AI圖像檢測(cè)OpenAI 806 0

重磅！OpenAI在ChatGPT內(nèi)推出語(yǔ)言和圖像功能

語(yǔ)音和圖像為用戶在生活中使用 ChatGPT 提供了更多方式。旅行時(shí)，拍下地標(biāo)性建筑的照片，然后就它的有趣之處進(jìn)行實(shí)時(shí)對(duì)話。當(dāng)您在家時(shí)，拍下冰箱和儲(chǔ)藏室...

2023-09-26 標(biāo)簽：模型OpenAIChatGPT 753 0

【比特熊充電棧】實(shí)戰(zhàn)演練構(gòu)建LLM對(duì)話引擎

大模型時(shí)代，安全問(wèn)題不容小覷。但如果把大模型比作孫悟空，那 NVIDIA NeMo Guardrails 就是“安全護(hù)欄”，可以輕松的為基于 LLM 的...

2023-09-19 標(biāo)簽：微軟NVIDIAOpenAI 1211 0

一文詳解GPT tokenizer 的工作原理

語(yǔ)言大模型（如 GPT-3/4、LLaMA 和 PaLM）使用 token 作為基本單位進(jìn)行工作。它們接受文本作為輸入，將其轉(zhuǎn)換為 token（整數(shù)），...

2023-09-15 標(biāo)簽：AI開(kāi)源GPT 1039 0

谷歌Gemini被曝算力達(dá)GPT-4五倍，手握TPU王牌碾壓OpenAI

根據(jù)Patel和Nishball的說(shuō)法，此前屢屢被爆料將成為GPT-4大殺器的谷歌Gemini，已經(jīng)開(kāi)始在新的TPUv5 Pod上進(jìn)行訓(xùn)練了，算力高達(dá)~...

2023-09-04 標(biāo)簽：gpu算力OpenAI 1081 0

OpenAI開(kāi)放大模型微調(diào)功能！

除了提高性能之外，還能縮短提示時(shí)間，確保類似性能。另外，微調(diào)目前僅支持處理4000 tokens，這也是此前微調(diào)型號(hào)的兩倍。16k tokens微調(diào)將于...

2023-08-24 標(biāo)簽：數(shù)據(jù)集OpenAI大模型 809 0