低比特量化技術(shù)如何幫助LLM提升性能

針對(duì)大語(yǔ)言模型 (LLM) 在部署過(guò)程中的性能需求，低比特量化技術(shù)一直是優(yōu)化效果最佳的方案之一，本文將探討低比特量化技術(shù)如何幫助 LLM 提升性能，以及...

2023-12-08 標(biāo)簽：輕量化技術(shù)大模型LLM 1572 0

對(duì)于大模型RAG技術(shù)的一些思考

大模型或者句向量在訓(xùn)練時(shí)，使用的語(yǔ)料都是較為通用的語(yǔ)料。這導(dǎo)致了這些模型，對(duì)于垂直領(lǐng)域的知識(shí)識(shí)別是有缺陷的。它們沒(méi)有辦法理解企業(yè)內(nèi)部的一些專用術(shù)語(yǔ)，縮寫...

2023-12-07 標(biāo)簽：向量檢索大模型 1548 0

大象機(jī)器人開(kāi)源協(xié)作機(jī)械臂機(jī)械臂接入GPT4o大模型！

本文已經(jīng)或者同濟(jì)子豪兄作者授權(quán)對(duì)文章進(jìn)行編輯和轉(zhuǎn)載 引言 隨著人工智能和機(jī)器人技術(shù)的快速發(fā)展，機(jī)械臂在工業(yè)、醫(yī)療和服務(wù)業(yè)等領(lǐng)域的應(yīng)用越來(lái)越廣泛。通過(guò)結(jié)合...

2024-07-03 標(biāo)簽：人工智能開(kāi)源機(jī)械臂 1543 0

Intel跑步進(jìn)入AI PC時(shí)代！13代酷睿支持160億參數(shù)大模型、Arc顯卡提速54％

生成式AI(AIGC)無(wú)疑是當(dāng)下最熱門的話題和應(yīng)用，各家軟硬件廠商都在全力投入。 作為擁有強(qiáng)大硬件、廣泛生態(tài)的行業(yè)領(lǐng)袖，Intel也正在大力推動(dòng)PC A...

2023-08-21 標(biāo)簽：intelAI大模型 1541 0

大模型應(yīng)用：激發(fā)芯片設(shè)計(jì)新紀(jì)元

2023 年，生成式 AI 如同當(dāng)紅炸子雞，吸引著全球的目光。當(dāng)前，圍繞這一領(lǐng)域的競(jìng)爭(zhēng)愈發(fā)白熱化，全球陷入百模大戰(zhàn)，并朝著千模大戰(zhàn)奮進(jìn)。在這場(chǎng)潮流中，A...

2023-08-15 標(biāo)簽：芯片AIchiplet 1540 0

如何快速下載OpenVINO Notebooks中的AI大模型

OpenVINO Notebooks是Jupyter Notebook形式的OpenVINO范例程序大集合，方便開(kāi)發(fā)者快速學(xué)習(xí)并掌握OpenVINO推理...

2023-12-12 標(biāo)簽：Linux大模型OpenVINO 1538 0

基于大模型的遙感圖像變化檢測(cè)新網(wǎng)絡(luò)

高分辨率遙感圖像已經(jīng)成為復(fù)雜變化檢測(cè)的有力工具。然而，在復(fù)雜場(chǎng)景中執(zhí)行穩(wěn)健的變化檢測(cè)仍然是一個(gè)艱巨的挑戰(zhàn)。變化檢測(cè)聚焦“非語(yǔ)義變化”中的“有效變化”，即...

2024-01-12 標(biāo)簽：SAM遙感圖像深度學(xué)習(xí) 1513 0

基于AI框架的智能工廠設(shè)計(jì)

在當(dāng)今的智能制造業(yè)中，智能化和數(shù)字化的發(fā)展已經(jīng)成為制造業(yè)的主要趨勢(shì)。隨著人工智能（AI）技術(shù)的不斷發(fā)展和進(jìn)步，智能制造的智慧工廠已經(jīng)成為制造業(yè)的一個(gè)重要...

2024-01-26 標(biāo)簽：物聯(lián)網(wǎng)AI智能制造 1511 0

大模型Reward Model的trick應(yīng)用技巧

借助對(duì)比學(xué)習(xí)和元學(xué)習(xí)的方法。增加對(duì)比學(xué)習(xí)的loss，對(duì)比學(xué)習(xí)通過(guò)增強(qiáng)模型區(qū)分能力，來(lái)增強(qiáng)RM的對(duì)好壞的區(qū)分水平。元學(xué)習(xí)則使獎(jiǎng)勵(lì)模型能夠維持區(qū)分分布外樣本...

2024-01-25 標(biāo)簽：二極管大模型 1499 0

大模型壓縮首篇綜述來(lái)啦

模型壓縮涉及將大型資源密集型模型轉(zhuǎn)化為適合在受限移動(dòng)設(shè)備上存儲(chǔ)的緊湊版本。此外，它還可以優(yōu)化模型以實(shí)現(xiàn)更快的執(zhí)行速度和最小的延遲，或在這些目標(biāo)之間取得平衡。

2023-09-26 標(biāo)簽：模型數(shù)據(jù)集nlp 1465 0

1-2B參數(shù)規(guī)模大模型的使用心得

大模型時(shí)代，根據(jù)大模型縮放定律，大家通常都在追求模型的參數(shù)規(guī)模更大、訓(xùn)練的數(shù)據(jù)更多，從而使得大模型涌現(xiàn)出更多的智能。但是，模型參數(shù)越大部署壓力就越大。即...

2023-12-28 標(biāo)簽：手機(jī)gpu參數(shù) 1460 0

專補(bǔ)大模型短板的RAG有哪些新進(jìn)展？這篇綜述講明白了

然而，盡管它們的能力令人印象深刻，但它們并非無(wú)懈可擊。這些模型可能會(huì)產(chǎn)生誤導(dǎo)性的 “幻覺(jué)”，依賴的信息可能過(guò)時(shí)，處理特定知識(shí)時(shí)效率不高，缺乏專業(yè)領(lǐng)域的深...

2024-01-17 標(biāo)簽：人工智能語(yǔ)言模型大模型 1454 0

多任務(wù)微調(diào)框架MFTCoder詳細(xì)技術(shù)解讀

MFTCoder具備高效訓(xùn)練特征，包括提供高效的數(shù)據(jù)Tokenization模式和支持PEFT微調(diào)，能有效提升微調(diào)訓(xùn)練速度并降低對(duì)資源的需求。

2023-11-17 標(biāo)簽：函數(shù)pythonGPT 1448 0

基于AX650N芯片部署MiniCPM-V 2.0高效端側(cè)多模態(tài)大模型

今年4月份，面壁智能&清華大學(xué)自然語(yǔ)言處理實(shí)驗(yàn)室推出MiniCPM系列的最新多模態(tài)版本MiniCPM-V 2.0。該模型基于MiniCPM 2....

2024-07-15 標(biāo)簽：自然語(yǔ)言處理愛(ài)芯元智大模型 1447 0

OneLLM：對(duì)齊所有模態(tài)的框架！

OneLLM 是第一個(gè)在單個(gè)模型中集成八種不同模態(tài)的MLLM。通過(guò)統(tǒng)一的框架和漸進(jìn)式多模態(tài)對(duì)齊pipelines，可以很容易地?cái)U(kuò)展OneLLM以包含更多...

2024-01-04 標(biāo)簽：編碼器路由器大模型 1434 0

大模型微調(diào)開(kāi)源項(xiàng)目全流程

對(duì)于所有“基座”（Base）模型，–template 參數(shù)可以是 default, alpaca, vicuna 等任意值。但“對(duì)話”（Chat）模型請(qǐng)...

2024-03-13 標(biāo)簽：機(jī)器學(xué)習(xí)大模型 1431 0

中科大提出：LLMs的個(gè)性化綜述，詳述大模型與個(gè)性化的挑戰(zhàn)與機(jī)遇

因此，我們認(rèn)為現(xiàn)在是時(shí)候?qū)徱晜€(gè)性化服務(wù)的挑戰(zhàn)以及用大型語(yǔ)言模型來(lái)解決它們的機(jī)會(huì)了。特別是，我們?cè)谶@篇展望性論文中專門討論了以下幾個(gè)方面：現(xiàn)有個(gè)性化系統(tǒng)的...

2023-08-21 標(biāo)簽：人工智能語(yǔ)言模型大模型 1418 0

小紅書(shū)搜索團(tuán)隊(duì)研究新框架：負(fù)樣本在大模型蒸餾中的重要性

在思維鏈（CoT）提示的幫助下，大語(yǔ)言模型（LLMs）展現(xiàn)出強(qiáng)大的推理能力。然而，思維鏈已被證明是千億級(jí)參數(shù)模型才具有的涌現(xiàn)能力。

2024-01-30 標(biāo)簽：算法OpenAI大模型 1409 0

預(yù)訓(xùn)練擴(kuò)散大模型取得點(diǎn)云-圖像配準(zhǔn)SoTA！

現(xiàn)有方法往往是：用一個(gè)2D特征提取網(wǎng)絡(luò)提取圖像特征；用一個(gè)3D特征提取網(wǎng)絡(luò)提取點(diǎn)云特征；然后根據(jù)pixel-to-point對(duì)應(yīng)關(guān)系真值通過(guò)Metric...

2023-10-29 標(biāo)簽：圖像點(diǎn)云大模型 1400 0