完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>
標(biāo)簽 > 大模型
以大模型作為基礎(chǔ)模型支撐AI產(chǎn)業(yè)應(yīng)用邏輯已經(jīng)被證明實(shí)用性,AI大模型為AI落地應(yīng)用提供了一種通用化的解決方案;各自各樣參數(shù)不一、面向不同行業(yè)、面向不同任務(wù)的“大模型”也陸續(xù)發(fā)布,大模型已經(jīng)成為整個AI 界追逐的寵兒,AI大模型有效果好、泛化性強(qiáng)、研發(fā)流程標(biāo)準(zhǔn)化程度高等特點(diǎn)。
文章:2903個 瀏覽:3683次 帖子:18個
AI新基建引領(lǐng)“三浪變革”,驅(qū)動產(chǎn)業(yè)升級與創(chuàng)新
2023年迎來“知識生產(chǎn)力變革”第一浪,以大語言模型為核心,實(shí)現(xiàn)知識工程的生產(chǎn)力變革,類似于中世紀(jì)的印刷革命。大語言模型具有超高速學(xué)習(xí)能力,可在人機(jī)協(xié)同...
小紅書搜索團(tuán)隊(duì)研究新框架:負(fù)樣本在大模型蒸餾中的重要性
在思維鏈(CoT)提示的幫助下,大語言模型(LLMs)展現(xiàn)出強(qiáng)大的推理能力。然而,思維鏈已被證明是千億級參數(shù)模型才具有的涌現(xiàn)能力。
還有一個與批次大小有關(guān)的數(shù)量,它們在一個有趣的點(diǎn)上相交。這個點(diǎn)不取決于硬件之外的任何因素。舉例來說,在 A10G 和 A100 上,硬件可以實(shí)現(xiàn)的總浮點(diǎn)...
2024-01-29 標(biāo)簽:神經(jīng)網(wǎng)絡(luò)gpuAI 513 0
在當(dāng)今的智能制造業(yè)中,智能化和數(shù)字化的發(fā)展已經(jīng)成為制造業(yè)的主要趨勢。隨著人工智能(AI)技術(shù)的不斷發(fā)展和進(jìn)步,智能制造的智慧工廠已經(jīng)成為制造業(yè)的一個重要...
2024-01-26 標(biāo)簽:物聯(lián)網(wǎng)AI智能制造 1384 0
探索ICLR‘24 Spotlight中的首個十億級別3D通用大模型
Uni3D在少樣本點(diǎn)云部件分割任務(wù)上也展示出了卓越的性能。下表結(jié)果顯示,在各種實(shí)驗(yàn)條件下,Uni3D的性能都明顯優(yōu)于Point-BERT等基線方法。
大模型Reward Model的trick應(yīng)用技巧
借助對比學(xué)習(xí)和元學(xué)習(xí)的方法。增加對比學(xué)習(xí)的loss,對比學(xué)習(xí)通過增強(qiáng)模型區(qū)分能力,來增強(qiáng)RM的對好壞的區(qū)分水平。元學(xué)習(xí)則使獎勵模型能夠維持區(qū)分分布外樣本...
字節(jié)發(fā)布機(jī)器人領(lǐng)域首個開源視覺-語言操作大模型,激發(fā)開源VLMs更大潛能
對此,ByteDance Research 基于開源的多模態(tài)語言視覺大模型 OpenFlamingo 開發(fā)了開源、易用的 RoboFlamingo 機(jī)器...
Continous Batching大模型推理關(guān)鍵技術(shù)
TurboTransformers算是比較早期指出輸入變長需要新的Batching方法的論文。在2020年上半年,我開始思考如何把變長輸入Batchin...
計(jì)算機(jī)系統(tǒng)如何應(yīng)對大模型時代的挑戰(zhàn)與機(jī)遇
“操作系統(tǒng)管理著計(jì)算機(jī)的資源和進(jìn)程,以及所有的硬件和軟件。計(jì)算機(jī)的操作系統(tǒng)讓用戶在不需要了解計(jì)算機(jī)語言的情況下與計(jì)算機(jī)進(jìn)行交互?!边@是我們對計(jì)算機(jī)系統(tǒng)的...
2024-01-23 標(biāo)簽:云計(jì)算計(jì)算機(jī)系統(tǒng)數(shù)據(jù)庫 803 0
BERT和 GPT-3 等語言模型針對語言任務(wù)進(jìn)行了預(yù)訓(xùn)練。微調(diào)使它們適應(yīng)特定領(lǐng)域,如營銷、醫(yī)療保健、金融。在本指南中,您將了解 LLM 架構(gòu)、微調(diào)過程...
2024-01-19 標(biāo)簽:神經(jīng)網(wǎng)絡(luò)nlpChatGPT 1553 0
專補(bǔ)大模型短板的RAG有哪些新進(jìn)展?這篇綜述講明白了
然而,盡管它們的能力令人印象深刻,但它們并非無懈可擊。這些模型可能會產(chǎn)生誤導(dǎo)性的 “幻覺”,依賴的信息可能過時,處理特定知識時效率不高,缺乏專業(yè)領(lǐng)域的深...
基于生成式人工智能的工業(yè)軟件自主創(chuàng)新路徑分析
當(dāng)前,以ChatGPT 為代表的預(yù)訓(xùn)練大模型 展現(xiàn)出自主學(xué)習(xí)、跨模態(tài)理解、推理抽象思維和人類社會理解等特征優(yōu)勢,正引發(fā)新一輪人工智能范式革命
單模態(tài)大模型,通常大于100M~1B參數(shù)。具有較強(qiáng)的通用性,比如對圖片中任意物體進(jìn)行分割,或者生成任意內(nèi)容的圖片或聲音。極大降低了場景的定制成本。
2024 AI智算產(chǎn)業(yè)趨勢報(bào)告
當(dāng)下智算時代雖然在初級階段,依托AI大模型形成的新一代算力基礎(chǔ)設(shè)施和AI應(yīng)用已經(jīng)在諸多領(lǐng)域嶄露頭角。 數(shù)字中國愿景的實(shí)現(xiàn),基石在于夯實(shí)數(shù)字化基礎(chǔ)設(shè)施建設(shè)。
我們先來回顧一下絕對位置編碼的問題。絕對位置編碼通過可學(xué)習(xí)的 Positional Embedding 來編碼位置信息,這種方案直接對不同的位置隨機(jī)初始...
2024-01-16 標(biāo)簽:電源優(yōu)化器位置編碼器大模型 1084 0
許多早期的機(jī)器學(xué)習(xí)算法需要人工標(biāo)記訓(xùn)練示例。例如,訓(xùn)練數(shù)據(jù)可能是帶有人工標(biāo)簽("狗"或"貓")的狗或貓的照片。人...
2024-01-16 標(biāo)簽:人工智能神經(jīng)元機(jī)器學(xué)習(xí) 781 0
編輯推薦廠商產(chǎn)品技術(shù)軟件/工具OS/語言教程專題
電機(jī)控制 | DSP | 氮化鎵 | 功率放大器 | ChatGPT | 自動駕駛 | TI | 瑞薩電子 |
BLDC | PLC | 碳化硅 | 二極管 | OpenAI | 元宇宙 | 安森美 | ADI |
無刷電機(jī) | FOC | IGBT | 逆變器 | 文心一言 | 5G | 英飛凌 | 羅姆 |
直流電機(jī) | PID | MOSFET | 傳感器 | 人工智能 | 物聯(lián)網(wǎng) | NXP | 賽靈思 |
步進(jìn)電機(jī) | SPWM | 充電樁 | IPM | 機(jī)器視覺 | 無人機(jī) | 三菱電機(jī) | ST |
伺服電機(jī) | SVPWM | 光伏發(fā)電 | UPS | AR | 智能電網(wǎng) | 國民技術(shù) | Microchip |
Arduino | BeagleBone | 樹莓派 | STM32 | MSP430 | EFM32 | ARM mbed | EDA |
示波器 | LPC | imx8 | PSoC | Altium Designer | Allegro | Mentor | Pads |
OrCAD | Cadence | AutoCAD | 華秋DFM | Keil | MATLAB | MPLAB | Quartus |
C++ | Java | Python | JavaScript | node.js | RISC-V | verilog | Tensorflow |
Android | iOS | linux | RTOS | FreeRTOS | LiteOS | RT-THread | uCOS |
DuerOS | Brillo | Windows11 | HarmonyOS |