完善資料讓更多小伙伴認識你，還能領(lǐng)取20積分哦，立即完善>
標簽 > llm
在人工智能領(lǐng)域，LLM代表“大型語言模型”。在人工智能（AI）領(lǐng)域自然語言處理（NLP）是一個快速進展的領(lǐng)域。NLP中最重要是大語言模型（LLM）。大語言模型（英文：Large Language Model，縮寫LLM），也稱大型語言模型，是一種基于機器學習和自然語言處理技術(shù)的模型。
文章：321個 瀏覽：765次 帖子：3個
隨著人工智能技術(shù)的飛速發(fā)展，大型語言模型（Large Language Model，簡稱LLM）逐漸成為自然語言處理（NLP）領(lǐng)域的研究熱點。LLM以其...
本文通俗簡單地介紹了什么是大模型、大模型是怎么訓練出來的和大模型的作用。 ? 什么是大模型 大模型，英文名叫Large Model，大型模型。早期的時候...
什么是LlamaIndex？LlamaIndex數(shù)據(jù)框架的特點和功能
LlamaIndex是一個數(shù)據(jù)框架，用于讓基于LLM的應用程序攝取、結(jié)構(gòu)化和訪問私有或領(lǐng)域特定的數(shù)據(jù)。它提供Python和Typescript版本。
2024-01-05 標簽：接口SQL數(shù)據(jù)庫 1.1萬 0
MQA (Multi Query Attention，多查詢注意力) 是多頭注意力的一種變體。其主要區(qū)別在于，在 MQA 中不同的注意力頭共享一個K和V...
ChatGPT、Midjourney等生成式人工智能（GenAI）在文本生成、文本到圖像生成等任務中表現(xiàn)出令人印象深刻的性能。
2023-12-25 標簽：轉(zhuǎn)換器人工智能RAG算法 6092 0
單模態(tài)大模型，通常大于100M～1B參數(shù)。具有較強的通用性，比如對圖片中任意物體進行分割，或者生成任意內(nèi)容的圖片或聲音。極大降低了場景的定制成本。
LLM推理加速新范式！推測解碼（Speculative Decoding）最新綜述
這個問題隨著LLM規(guī)模的增大愈發(fā)嚴重。并且，如下左圖所示，目前LLM常用的自回歸解碼（autoregressive decoding）在每個解碼步只能生...
LLM底座模型：LLaMA、Palm、GLM、BLOOM、GPT結(jié)構(gòu)對比
使用RMSNorm（即Root Mean square Layer Normalization）對輸入數(shù)據(jù)進行標準化，RMSNorm可以參考論文：Roo...
2023-05-19 標簽：電源優(yōu)化器GPTBPEKF算法 4634 0
LLM推理上的DeepSpeed Inference優(yōu)化實踐方案
首先將 batch 拆分為 micro-batch，其中 micro-batch 數(shù)等于 pipeline 深度，micro-batch通過動態(tài)隊列的順...
基于AX650N/AX630C部署端側(cè)大語言模型Qwen2
本文將分享如何將最新的端側(cè)大語言模型部署到超高性價比SoC上，向業(yè)界對端側(cè)大模型部署的開發(fā)者提供一種新的思路。
LLM 中非常重要的一個概念是 Token，我們輸入給 LLM 和它輸出的都是 Token。Token 在這里可以看做語言的基本單位，中文一般是詞或字（...
這是任何RAG流程的最后一步——基于我們仔細檢索的所有上下文和初始用戶查詢生成答案。最簡單的方法可能是將所有獲取到的上下文（超過某個相關(guān)性閾值的）連同查...
這個方法之所以有效，是因為均勻分布幫助我們將Mq(x)提供的“封包”縮放到p(x)的概率密度函數(shù)。另一種看法是，我們?nèi)狱cx0的概率。這與從g中取樣x0...
0x0. 前言 我的 ChatRWKV 學習筆記和使用指南 這篇文章是學習RWKV的第一步，然后學習了一下之后決定自己應該做一些什么。所以就在RWKV社...
目前大部分開源LLM模型都是基于transformers庫來做的，它們的結(jié)構(gòu)大部分都和Llama大同小異。
中國研究人員提出StructGPT，提高LLM對結(jié)構(gòu)化數(shù)據(jù)的零樣本推理能力
盡管結(jié)構(gòu)化數(shù)據(jù)的體量往往非常巨大，但不可能容納輸入提示中的所有數(shù)據(jù)記錄（例如，ChatGPT 的最大上下文長度為 4096）。將結(jié)構(gòu)化數(shù)據(jù)線性化為 LL...
2023-05-24 標簽：數(shù)據(jù)管理自然語言處理知識圖譜 3540 0
隨著ChatGPT的快速發(fā)展，基于Transformer的大型語言模型(LLM)為人工通用智能(AGI)鋪平了一條革命性的道路，并已應用于知識庫、人機界...
近年來，像 GPT-4 這樣的大型語言模型 （LLM） 因其在自然語言理解和生成方面的驚人能力而受到廣泛關(guān)注。但是，要根據(jù)特定任務或領(lǐng)域定制LLM，定制...
2023-06-12 標簽：GPUpython數(shù)據(jù)集 3398 0
internal feedback：使用LLM去預測生成的plan取得成功的概率、Tree of Thought去對比不同的plan（有點類似Alpha...
使用基于Transformers的API在CPU上實現(xiàn)LLM高效推理
英特爾 Extension for Transformers是英特爾推出的一個創(chuàng)新工具包，可基于英特爾 架構(gòu)平臺，尤其是第四代英特爾 至強 可擴展處理器...
換一批
編輯推薦廠商產(chǎn)品技術(shù)軟件/工具OS/語言教程專題
| 電機控制 | DSP | 氮化鎵 | 功率放大器 | ChatGPT | 自動駕駛 | TI | 瑞薩電子 |
| BLDC | PLC | 碳化硅 | 二極管 | OpenAI | 元宇宙 | 安森美 | ADI |
| 無刷電機 | FOC | IGBT | 逆變器 | 文心一言 | 5G | 英飛凌 | 羅姆 |
| 直流電機 | PID | MOSFET | 傳感器 | 人工智能 | 物聯(lián)網(wǎng) | NXP | 賽靈思 |
| 步進電機 | SPWM | 充電樁 | IPM | 機器視覺 | 無人機 | 三菱電機 | ST |
| 伺服電機 | SVPWM | 光伏發(fā)電 | UPS | AR | 智能電網(wǎng) | 國民技術(shù) | Microchip |
| Arduino | BeagleBone | 樹莓派 | STM32 | MSP430 | EFM32 | ARM mbed | EDA |
| 示波器 | LPC | imx8 | PSoC | Altium Designer | Allegro | Mentor | Pads |
| OrCAD | Cadence | AutoCAD | 華秋DFM | Keil | MATLAB | MPLAB | Quartus |
| C++ | Java | Python | JavaScript | node.js | RISC-V | verilog | Tensorflow |
| Android | iOS | linux | RTOS | FreeRTOS | LiteOS | RT-THread | uCOS |
| DuerOS | Brillo | Windows11 | HarmonyOS |
關(guān)注我們的微信
下載發(fā)燒友APP
電子發(fā)燒友觀察
版權(quán)所有 ? 湖南華秋數(shù)字科技有限公司
長沙市望城經(jīng)濟技術(shù)開發(fā)區(qū)航空路6號手機智能終端產(chǎn)業(yè)園2號廠房3層（0731-88081133）
電子發(fā)燒友 （電路圖） 湘公網(wǎng)安備43011202000918
工商網(wǎng)監(jiān)
湘ICP備2023018690號-1
