深度學(xué)習(xí)模型部署與優(yōu)化：策略與實踐；L40S與A100、H100的對比分析

深度學(xué)習(xí)、機(jī)器學(xué)習(xí)、生成式AI、深度神經(jīng)網(wǎng)絡(luò)、抽象學(xué)習(xí)、Seq2Seq、VAE、GAN、GPT、BERT、預(yù)訓(xùn)練語言模型、Transformer、Cha...

2023-09-22 標(biāo)簽：AI模型深度學(xué)習(xí) 1591 0

C語言的static究竟限制了誰？介紹一種繞開static限制的方法

大佬們，問一個比較低智問題，static修飾的變量不是只能被當(dāng)前文件所調(diào)用嗎？為什么這里在其他.c文件可以調(diào)用get_board_led_opr這個函數(shù)...

2023-07-28 標(biāo)簽：C語言staticChatGPT 1554 0

chatGPT的175Billion個參數(shù)是哪兒來的

最近大語言模型模型LLM很火，大家總是說chatgpt的175Billion參數(shù)。做算法的人更關(guān)心網(wǎng)絡(luò)的結(jié)構(gòu)，而我這種做硬件的人一直很好奇這個參數(shù)是怎么計算的。

2023-11-01 標(biāo)簽：LSTMChatGPTLLM 1552 0

圖像增強(qiáng)之直方圖均衡介紹

在FPGA實現(xiàn)上還是要還是沒有辦法跳躍的，畢竟復(fù)雜的算法，都是從基礎(chǔ)模塊一步步搭建起來的。

2023-07-03 標(biāo)簽：fpgamatlabRGB 1546 0

LLM的幻覺問題最新綜述

幻覺被描述為無意義或不忠實于所提供源內(nèi)容的生成內(nèi)容。根據(jù)與源內(nèi)容的矛盾，這些幻覺又進(jìn)一步分為內(nèi)在幻覺和外在幻覺。在LLMs中，幻覺的范圍包含了一個更廣泛...

2023-11-22 標(biāo)簽：人工智能渦輪增壓ChatGPT 1546 0

TCP發(fā)展受阻的原因是什么呢？RDMA和Linux TCP技術(shù)解析

在考慮今天如何開始時，我回顧了一下這兩天關(guān)于硬件和軟件之間分歧的主題演講。主要探討了擁塞控制如何在這個不斷發(fā)展的領(lǐng)域中增長和演變。

2024-02-20 標(biāo)簽：加速器LinuxTCP 1537 0

認(rèn)識一下AI算力應(yīng)用中的光模塊產(chǎn)品

以ChatGPT為代表的AI大模型應(yīng)用普及將推動算力需求快速增長，服務(wù)器產(chǎn)業(yè)鏈?zhǔn)瞧渲兄匾氖芤姝h(huán)節(jié)之一，AI計算的普及將推動服務(wù)器產(chǎn)業(yè)鏈光模塊向800G...

2023-12-29 標(biāo)簽：交換機(jī)光模塊GPU芯片 1483 0

如何使用Rust創(chuàng)建一個基于ChatGPT的RAG助手

如今，ChatGPT 已經(jīng)成為家喻戶曉的名字，每個開發(fā)者都主動或被動地使用過 ChatGPT 或者是基于 ChatGPT 的產(chǎn)品。ChatGPT 很好，...

2023-10-24 標(biāo)簽：機(jī)器人gpupython 1473 0

Llama 2性能如何

在幾乎所有基準(zhǔn)上，Llama 2 70B 的結(jié)果均與谷歌 PaLM (540B) 持平或表現(xiàn)更好，不過與 GPT-4 和 PaLM-2-L 的性能仍存在...

2023-07-23 標(biāo)簽：人工智能ChatGPTLlama2 1469 0

多任務(wù)微調(diào)框架MFTCoder詳細(xì)技術(shù)解讀

MFTCoder具備高效訓(xùn)練特征，包括提供高效的數(shù)據(jù)Tokenization模式和支持PEFT微調(diào)，能有效提升微調(diào)訓(xùn)練速度并降低對資源的需求。

2023-11-17 標(biāo)簽：函數(shù)pythonGPT 1448 0