ChatGPT爆火：谷歌、Meta等壓力大 OpenAI全新聊天機(jī)器人模型爆火

ChatGPT爆火：谷歌、Meta等壓力大 OpenAI全新聊天機(jī)器人模型爆火 人工智能研究實(shí)驗(yàn)室OpenAI于2022年11月30日發(fā)布了全新聊天機(jī)器...

2023-01-30 標(biāo)簽：谷歌AIMeta 1303 0

關(guān)于達(dá)摩院《2023十大科技趨勢》的詳細(xì)解讀

Chiplet 是硅片級(jí)別的“解構(gòu) - 重構(gòu) - 復(fù)用”，它把傳統(tǒng)的 SoC 分解為多個(gè)芯 粒模塊，將這些芯粒分開制備后再通過 互聯(lián)封裝形成一個(gè)完整芯片...

2023-01-13 標(biāo)簽：芯片技術(shù)自然語言處理阿里達(dá)摩院 1175 0

一文速覽人崗匹配領(lǐng)域研究進(jìn)展

基于文本匹配的方法認(rèn)為求職者與職位是否匹配主要依賴于求職者簡歷中的技能或工作經(jīng)歷與職位要求描述之間是否相對(duì)應(yīng)，因此這種方法往往將PJF問題建模為一個(gè)簡歷...

2023-01-10 標(biāo)簽：模型cnn自然語言處理 1712 0

一種顯著降低Transformer計(jì)算量的輕量化方法

然而，transformer的原始公式在輸入令牌（token）數(shù)量方面具有二次計(jì)算復(fù)雜度。鑒于這個(gè)數(shù)字通常從圖像分類的14^2到圖像去噪的128^2 =...

2023-01-10 標(biāo)簽：編碼Transformer自然語言處理 1762 0

一張RTX 2080Ti搞定大模型訓(xùn)練！算力節(jié)省136倍！

在自然語言處理（NLP）領(lǐng)域，基于 Transformer 架構(gòu)的預(yù)訓(xùn)練模型已經(jīng)成為主流，并帶來諸多突破性進(jìn)展。很大程度上，這些模型性能強(qiáng)大的原因是它們...

2023-01-03 標(biāo)簽：gpu自然語言處理算力 2207 0

摩爾線程預(yù)訓(xùn)練語言模型MusaBert榮登CLUE榜單TOP10

一直以來，語義理解都是NLP（自然語言處理）技術(shù)的重要目標(biāo)，通過一系列AI算法，可將文本解析為結(jié)構(gòu)化的、機(jī)器可讀的意圖與詞槽信息。通常來說，訓(xùn)練數(shù)據(jù)的獲...

2022-12-19 標(biāo)簽：AI算法自然語言處理摩爾線程 1150 0

加速ViT模型新思路！Meta推出Token Merging

更重要的是，token剪枝是動(dòng)態(tài)的過程，需要根據(jù)不同的圖像或句子確定token剪枝的不同數(shù)量。雖然這有利于提高準(zhǔn)確性，但卻不夠?qū)嵱脤?shí)用性，因?yàn)檫@種情況下...

2022-12-06 標(biāo)簽：模型Meta自然語言處理 825 0

AI再卷數(shù)學(xué)界，DSP新方法將機(jī)器證明成功率提高一倍

我們以語言模型 Minerva為例。當(dāng)在足夠多的數(shù)據(jù)訓(xùn)練之后，我們發(fā)現(xiàn)它的數(shù)學(xué)能力非常強(qiáng)，可以在高中數(shù)學(xué)測試中拿到高于平均分水平。然而這樣的語言模型也有...

2022-11-21 標(biāo)簽：人工智能語言模型自然語言處理 719 0

視覺Transformer在CV中的現(xiàn)狀、趨勢和未來方向

全面性和可讀性：本文根據(jù)它們?cè)谌齻€(gè)基本CV任務(wù)（即分類、檢測和分割）和數(shù)據(jù)流類型（即圖像、點(diǎn)云、多流數(shù)據(jù)）上的應(yīng)用，全面回顧了100多個(gè)視覺Transf...

2022-11-08 標(biāo)簽：編碼器神經(jīng)網(wǎng)絡(luò)自然語言處理 2969 0

Arm實(shí)現(xiàn)了云的獨(dú)立性

云/數(shù)據(jù)中心的主干一度純粹依賴于基于X86的服務(wù)器。這些服務(wù)器繼續(xù)發(fā)揮著重要作用，但現(xiàn)在云必須支持迅速擴(kuò)大的工作負(fù)載的多樣性。CPU類型已經(jīng)分裂為基于X...

2022-10-20 標(biāo)簽：arm數(shù)據(jù)中心自然語言處理 658 0

NLP中的神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)與學(xué)習(xí)

近些年來，人工神經(jīng)網(wǎng)絡(luò)方法已經(jīng)成為了自然語言處理中最重要的范式之一。但是，大量依賴人工設(shè)計(jì)的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，導(dǎo)致自然語言處理領(lǐng)域的發(fā)展很大程度依賴于神經(jīng)網(wǎng)...

2022-09-22 標(biāo)簽：神經(jīng)網(wǎng)絡(luò)自然語言處理nlp 1590 0

一窺AMR圖譜在自然語言處理中的應(yīng)用

TreeBank 作為自然語言語法的結(jié)構(gòu)化表示可謂廣為人知，其實(shí)在語義層面也有一種類似的結(jié)構(gòu)化方法——抽象語義表示（Abstract Meaning R...

2022-09-05 標(biāo)簽：編碼器AMRACL 2392 0

如何在GPU資源受限的情況下訓(xùn)練transformers庫上面的大模型

自BERT出現(xiàn)以來，nlp領(lǐng)域已經(jīng)進(jìn)入了大模型的時(shí)代，大模型雖然效果好，但是畢竟不是人人都有著豐富的GPU資源，在訓(xùn)練時(shí)往往就捉襟見肘，出現(xiàn)顯存out ...

2022-08-31 標(biāo)簽：gpu自然語言處理nlp 2882 0

CV的三大基本困難和對(duì)應(yīng)的研究方向

在開始之前，我先畫出如下思維導(dǎo)圖。為了尋找合適的切入點(diǎn)，我將從計(jì)算機(jī)視覺和自然語言處理（人工智能中兩個(gè)最受關(guān)注的研究方向）的區(qū)別開始談起，引出圖像信號(hào)的...

2022-08-31 標(biāo)簽：神經(jīng)網(wǎng)絡(luò)CV自然語言處理 3128 0

NLP技術(shù)在司法領(lǐng)域的應(yīng)用

這個(gè)AI背后的主要技術(shù)，其實(shí)就是自然語言處理，它可以提取出當(dāng)前案件中的諸多要素，將其和其他類似案件的要素作對(duì)比，最終分析得出具體建議值。

2022-08-22 標(biāo)簽：深度學(xué)習(xí)自然語言處理nlp 2127 0

劍橋量子發(fā)布全球首個(gè)QNLP工具包和文庫

“l(fā)ambeq”將句子轉(zhuǎn)換為量子電路，隨著量子計(jì)算系統(tǒng)的擴(kuò)大，加速實(shí)用QNLP應(yīng)用的開發(fā)

2022-08-09 標(biāo)簽：軟件工具包自然語言處理 1152 0

馬爾可夫與語言模型

有限狀態(tài)語法或正則語法，是指能夠生成有限狀態(tài)機(jī)可以接受的句子的語法。而能夠生成非確定性下推自動(dòng)機(jī)（non-deterministic pushdown ...

2022-07-13 標(biāo)簽：神經(jīng)網(wǎng)絡(luò)機(jī)器學(xué)習(xí)自然語言處理 1556 0

NLP的工作原理是什么 有哪些用例

自然語言處理是一項(xiàng)利用計(jì)算機(jī)和軟件獲取人類語言（書面或口語）含義的技術(shù)。

2022-06-24 標(biāo)簽：NVIDIA自然語言處理nlp 3979 0