TCP發(fā)展受阻的原因是什么呢？RDMA和Linux TCP技術解析

在考慮今天如何開始時，我回顧了一下這兩天關于硬件和軟件之間分歧的主題演講。主要探討了擁塞控制如何在這個不斷發(fā)展的領域中增長和演變。

2024-02-20 標簽：加速器LinuxTCP 1535 0

探索LangChain：構建專屬LLM應用的基石

LangChain通過Loader加載外部的文檔，轉化為標準的Document類型。Document類型主要包含兩個屬性：page_content 包含...

2024-01-30 標簽：ChatGPTLLM 969 0

Continous Batching大模型推理關鍵技術

TurboTransformers算是比較早期指出輸入變長需要新的Batching方法的論文。在2020年上半年，我開始思考如何把變長輸入Batchin...

2024-01-23 標簽：gpuGPTnlp 1044 0

如何用Rust過程宏魔法簡化SQL函數(shù)呢？

這是 RisingWave 中一個 SQL 函數(shù)的實現(xiàn)。只需短短幾行代碼，通過在 Rust 函數(shù)上加一行過程宏，我們就把它包裝成了一個 SQL 函數(shù)。

2024-01-23 標簽：SQL生成器Rust 2555 0

不同算力芯片的特點與區(qū)別

AMD 推出數(shù)據(jù)中心 APU Instinct MI300。AMD 推出數(shù)據(jù)中心APU（加速處理器）Instinct MI300，其旨在幫助數(shù)據(jù)中心處理...

2024-01-22 標簽：gpu數(shù)據(jù)中心人工智能 2789 0

教您如何精調出自己的領域大模型

BERT和 GPT-3 等語言模型針對語言任務進行了預訓練。微調使它們適應特定領域，如營銷、醫(yī)療保健、金融。在本指南中，您將了解 LLM 架構、微調過程...

2024-01-19 標簽：神經(jīng)網(wǎng)絡nlpChatGPT 1716 0

如何利用ChatGPT快速實現(xiàn)一個控制臺進度條小工具？

控制臺程序執(zhí)行一些耗時任務時，需要向用戶顯示當前任務執(zhí)行的進度，以提供清晰的感知。比如一個下載程序，通過進度條便能告知用戶當前的下載進度。

2024-01-18 標簽：ASCIIC++語言python 1409 0

基于生成式人工智能的工業(yè)軟件自主創(chuàng)新路徑分析

當前，以ChatGPT 為代表的預訓練大模型 展現(xiàn)出自主學習、跨模態(tài)理解、推理抽象思維和人類社會理解等特征優(yōu)勢，正引發(fā)新一輪人工智能范式革命

2024-01-17 標簽：人工智能ai技術ChatGPT 1956 0

深度解析大語言模型內(nèi)部運行原理

許多早期的機器學習算法需要人工標記訓練示例。例如，訓練數(shù)據(jù)可能是帶有人工標簽（"狗"或"貓"）的狗或貓的照片。人...

2024-01-16 標簽：人工智能神經(jīng)元機器學習 866 0

ChatGPT算力芯片如何做算力輸出

算力卡的核心當然還是計算芯片，會搭配大容量高帶寬的內(nèi)存、緩存，以及搭載CPU用于調度，為了幫助數(shù)據(jù)傳輸，便會使用高速通道，這便是PCIe（高速串行計算機...

2024-01-11 標簽：cpuPCIe人工智能 839 0

13個精選創(chuàng)意應用案例！協(xié)作機器人與智慧生活的融合！

2023年，大象機器人協(xié)作機器人產(chǎn)品年出貨量超1萬臺，銷往海內(nèi)外50+國家，獲國內(nèi)外超500+所高校、企業(yè)的認可和應用。

2024-01-10 標簽：機械臂協(xié)作機器人樹莓派 6507 0

一文解析PPO算法原理

Reward Model的初始化：6B的GPT-3模型在多個公開數(shù)據(jù)（(ARC, BoolQ, CoQA, DROP, MultiNLI, OpenBo...

2024-01-09 標簽：ChatGPT 7758 0

大語言模型推斷中的批處理效應

隨著開源預訓練大型語言模型（Large Language Model, LLM ）變得更加強大和開放，越來越多的開發(fā)者將大語言模型納入到他們的項目中。其...

2024-01-04 標簽：語言模型機器學習LoRa 1016 0

如何設計一款好的電源產(chǎn)品？

電氣化社會下電源無處不在，不同種類的電源技術在最初的發(fā)電側到終端芯片都扮演著重要的角色，一款高度集成的電子產(chǎn)品中電源系統(tǒng)的設計甚至占到了總設計量的50%...

2024-01-04 標簽：adi電源技術電源產(chǎn)品 896 0

四種微調大模型的方法介紹

全微調（Full Fine-tuning）：全微調是指對整個預訓練模型進行微調，包括所有的模型參數(shù)。在這種方法中，預訓練模型的所有層和參數(shù)都會被更新和優(yōu)...

2024-01-03 標簽：gpu深度學習ChatGPT 2.6萬 0

ChatGPT是一個好的因果推理器嗎？

因果推理能力對于許多自然語言處理（NLP）應用至關重要。最近的因果推理系統(tǒng)主要基于經(jīng)過微調的預訓練語言模型（PLMs），如BERT [1] 和RoBER...

2024-01-03 標簽：ChatGPT 1166 0

AIGC的基礎及各行業(yè)應用拆解

文本類最熱門的AI工具無非是ChatGPT，我們可以把它當作是一個聊天機器人，可以直接輸入問題或者與它進行自然語言對話。

2024-01-02 標簽：AIpython聊天機器人 1289 0

認識一下AI算力應用中的光模塊產(chǎn)品

以ChatGPT為代表的AI大模型應用普及將推動算力需求快速增長，服務器產(chǎn)業(yè)鏈是其中重要的受益環(huán)節(jié)之一，AI計算的普及將推動服務器產(chǎn)業(yè)鏈光模塊向800G...

2023-12-29 標簽：交換機光模塊GPU芯片 1482 0