OpenVINO?協(xié)同Semantic Kernel：優(yōu)化大模型應(yīng)用性能新路徑

作為主要面向 RAG 任務(wù)方向的框架，Semantic Kernel 可以簡(jiǎn)化大模型應(yīng)用開發(fā)過(guò)程，而在 RAG 任務(wù)中最常用的深度學(xué)習(xí)模型就是 Embe...

2024-03-08 標(biāo)簽：JAVAOpenAI大模型 1089 0

谷歌Gemini被曝算力達(dá)GPT-4五倍，手握TPU王牌碾壓OpenAI

根據(jù)Patel和Nishball的說(shuō)法，此前屢屢被爆料將成為GPT-4大殺器的谷歌Gemini，已經(jīng)開始在新的TPUv5 Pod上進(jìn)行訓(xùn)練了，算力高達(dá)~...

2023-09-04 標(biāo)簽：gpu算力OpenAI 1083 0

GPT-4沒(méi)有推理能力嗎？

今年三月，OpenAI 重磅發(fā)布了 GPT-4 大模型，帶來(lái)了比 ChatGPT 背后 GPT-3.5 更強(qiáng)的推理、計(jì)算、邏輯能力，也引發(fā)了全民使用的熱...

2023-08-11 標(biāo)簽：機(jī)器學(xué)習(xí)GPTOpenAI 1077 0

一文詳解GPT tokenizer 的工作原理

語(yǔ)言大模型（如 GPT-3/4、LLaMA 和 PaLM）使用 token 作為基本單位進(jìn)行工作。它們接受文本作為輸入，將其轉(zhuǎn)換為 token（整數(shù)），...

2023-09-15 標(biāo)簽：AI開源GPT 1039 0

Transformers的功能概述

近年來(lái)，我們聽說(shuō)了很多關(guān)于Transformers的事情，并且在過(guò)去的幾年里，它們已經(jīng)在NLP領(lǐng)域取得了巨大成功。Transformers是一種使用注意...

2024-01-23 標(biāo)簽：編碼器模型nlp 1022 0

Scaling Law大模型設(shè)計(jì)實(shí)操案例

縱軸是"Bits for words", 這也是交叉熵的一個(gè)單位。在計(jì)算交叉熵時(shí)，如果使用以 2 為底的對(duì)數(shù)，交叉熵的單位就是 &q...

2023-11-22 標(biāo)簽：語(yǔ)言模型GPTOpenAI 1006 0

上交清華提出中文大模型的知識(shí)評(píng)估基準(zhǔn)C-Eval，輔助模型開發(fā)而非打榜

首先，把一個(gè)模型調(diào)成一個(gè)對(duì)話機(jī)器人這件事情并不難，開源界已經(jīng)有了類似于 Alpaca, Vicuna, RWKV 這樣的對(duì)話機(jī)器人，跟它們隨便聊聊感覺(jué)都...

2023-05-24 標(biāo)簽：機(jī)器人數(shù)據(jù)集OpenAI 995 0

開發(fā)RAG管道過(guò)程中的12個(gè)痛點(diǎn)

準(zhǔn)確解釋用戶查詢以檢索相關(guān)的結(jié)構(gòu)化數(shù)據(jù)是困難的，特別是在面對(duì)復(fù)雜或模糊的查詢、不靈活的文本到SQL轉(zhuǎn)換方面

2024-02-21 標(biāo)簽：SQL數(shù)據(jù)源OpenAI 994 0

ChatGPT為什么如此強(qiáng)大

最近，OpenAI的預(yù)訓(xùn)練模型ChatGPT給人工智能領(lǐng)域的研究人員留下了深刻的印象和啟發(fā)。毫無(wú)疑問(wèn)，它又強(qiáng)又聰明，且跟它說(shuō)話很好玩，還會(huì)寫代碼。它在多...

2023-02-23 標(biāo)簽：人工智能OpenAIChatGPT 902 0

OpenAI視頻模型Sora的架構(gòu)及應(yīng)用場(chǎng)景

LDM 就是 Stable Diffusion 使用的模型架構(gòu)。擴(kuò)散模型的一大問(wèn)題是計(jì)算需求大，難以擬合高分辨率圖像。為了解決這一問(wèn)題，實(shí)現(xiàn) LDM時(shí)，...

2024-02-20 標(biāo)簽：編碼器AILDM 894 0

Amdocs使用NVIDIA NIM加速生成式AI性能并降低成本

電信公司正在利用生成式 AI，通過(guò)自動(dòng)化流程、改善客戶體驗(yàn)和優(yōu)化網(wǎng)絡(luò)運(yùn)營(yíng)來(lái)提高員工生產(chǎn)力。

2024-05-24 標(biāo)簽：NVIDIAOpenAI生成式AI 837 0

新火種AI|秒殺GPT-4，狙殺GPT-5，橫空出世的Claude 3振奮人心！

2024年第一季度才剛過(guò)半，AI領(lǐng)域就大動(dòng)作不斷，大家卯著勁的出新品，可謂卷出天際。 ? 3月4日，Anthropic發(fā)布了最新的Claude 3系列模...

2024-03-06 標(biāo)簽：AI人工智能OpenAI 829 0

對(duì)話式LLM用于硬件設(shè)計(jì)

通常，開發(fā)任何類型的硬件（包括芯片，作為電子設(shè)備大腦的微小電子元件），都是從用正常語(yǔ)言描述硬件應(yīng)該做什么開始的。

2023-06-15 標(biāo)簽：HDL語(yǔ)言OpenAIChatGPT 813 0

OpenAI開放大模型微調(diào)功能！

除了提高性能之外，還能縮短提示時(shí)間，確保類似性能。另外，微調(diào)目前僅支持處理4000 tokens，這也是此前微調(diào)型號(hào)的兩倍。16k tokens微調(diào)將于...

2023-08-24 標(biāo)簽：數(shù)據(jù)集OpenAI大模型 810 0