一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

面向Aspect情感分析的自動(dòng)生成離散意見(jiàn)樹(shù)結(jié)構(gòu)

深度學(xué)習(xí)自然語(yǔ)言處理 ? 來(lái)源:深度學(xué)習(xí)自然語(yǔ)言處理 ? 作者:周婷 ? 2022-11-16 14:52 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

在本文中,我們探索了一種簡(jiǎn)單的方法,為每個(gè)方面自動(dòng)生成離散意見(jiàn)樹(shù)結(jié)構(gòu)。用到了RL。

f0c94b24-64f0-11ed-8abf-dac502259ad0.png

首先為每個(gè)方面生成離散意見(jiàn)樹(shù),設(shè)方面詞的位置為[b,e],則首先將方面跨度[b, e]作為根節(jié)點(diǎn),然后分別從跨度[1,b?1]和[e+1, n]構(gòu)建它的左子節(jié)點(diǎn)和右子節(jié)點(diǎn)。為了構(gòu)建左子樹(shù)或右子樹(shù),我們首先選擇span中「得分最大的元素」作為子樹(shù)的根節(jié)點(diǎn),然后遞歸地對(duì)相應(yīng)的span分區(qū)使用build_tree調(diào)用。(除了方面詞外其他node都是單個(gè)詞)。

關(guān)于得分分?jǐn)?shù)的計(jì)算,選擇將""作為BERT的輸入得到特殊于方面詞的句子表達(dá)H,然后按照如下計(jì)算得分:

f0e49f78-64f0-11ed-8abf-dac502259ad0.png

其中h是H中方面詞部分的平均池化,構(gòu)建樹(shù)的這部分包含的參數(shù)有三個(gè)以及BERT參數(shù)部分。

構(gòu)建樹(shù)的這一部分稱為,輸入為x和a(用于打分),輸出為一棵樹(shù),參數(shù) ? 包括上述參數(shù)。這一部分參數(shù)使用RL進(jìn)行更新而不是最終損失函數(shù)的反向傳播。

生成樹(shù)以后開(kāi)始正式執(zhí)行預(yù)測(cè)任務(wù),模型非常簡(jiǎn)單。

將上面得到的樹(shù)生成鄰接矩陣,經(jīng)過(guò)GCN(可能多層),取最后一層GCN的輸出結(jié)果的方面詞部分以及[CLS]這個(gè)token的表達(dá)之和作為query,與GCN的輸入的初始向量特征(也就是原句子經(jīng)過(guò)句子編碼器得到的)做注意力機(jī)制,用輸入去表達(dá)最終的方面級(jí)分類(lèi)特征。

f0f904ea-64f0-11ed-8abf-dac502259ad0.png

最后輸出分類(lèi)結(jié)果

f10b6658-64f0-11ed-8abf-dac502259ad0.png

損失函數(shù):

f11b98c0-64f0-11ed-8abf-dac502259ad0.png

注意這個(gè)論文分為兩個(gè)模塊,第一個(gè)是生成樹(shù),利用得到t;第二部分是預(yù)測(cè), ,這里的 θ 包括GCN模塊的參數(shù)和輸出(等式5)的部分,PS注意力模塊沒(méi)有引進(jìn)參數(shù)哦。

第二部分使用上述損失函數(shù)進(jìn)行優(yōu)化,由于樹(shù)的采樣過(guò)程是一個(gè)離散的決策過(guò)程,因此它是不可微的,第一部分使用的是RL進(jìn)行優(yōu)化。

強(qiáng)化學(xué)習(xí)實(shí)現(xiàn)訓(xùn)練部分還沒(méi)看。

實(shí)驗(yàn)效果和分析

f12dd4fe-64f0-11ed-8abf-dac502259ad0.png

MAMS 開(kāi)發(fā)集效果

f14769b4-64f0-11ed-8abf-dac502259ad0.png

在MAMS數(shù)據(jù)上和多語(yǔ)言評(píng)論數(shù)據(jù)的結(jié)果

f15af7fe-64f0-11ed-8abf-dac502259ad0.png

SemEval數(shù)據(jù)集上的效果

f1806476-64f0-11ed-8abf-dac502259ad0.png

和span-based RL作對(duì)比

圖3a和圖3b分別顯示了方面術(shù)語(yǔ)“scallops”的induced tree和dependency parse:

f1995490-64f0-11ed-8abf-dac502259ad0.png

圖4a和圖4b顯示了兩個(gè)情緒極性不同的方面術(shù)語(yǔ)的induced tree:

f1b6ef14-64f0-11ed-8abf-dac502259ad0.png

aspect 和 opinion word的距離分析:

f1dce70a-64f0-11ed-8abf-dac502259ad0.png

基于MAMS的測(cè)試集分類(lèi)精度與訓(xùn)練集中各方面頻率的關(guān)系:

f203d5c2-64f0-11ed-8abf-dac502259ad0.png

審核編輯:郭婷

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 編碼器
    +關(guān)注

    關(guān)注

    45

    文章

    3808

    瀏覽量

    138057

原文標(biāo)題:ACL'22 | 西湖大學(xué)提出:面向Aspect情感分析的離散意見(jiàn)樹(shù)歸納方法

文章出處:【微信號(hào):zenRRan,微信公眾號(hào):深度學(xué)習(xí)自然語(yǔ)言處理】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    PanDao:實(shí)際約束條件下成像系統(tǒng)的初始結(jié)構(gòu)生成

    ,可以顯著加快設(shè)計(jì)周期;其二,通過(guò)各種生成的初始設(shè)計(jì)對(duì)系統(tǒng)候選結(jié)構(gòu)進(jìn)行更廣泛的搜索。 我們研發(fā)了一種自動(dòng)化的“First Time Right’”(FTR)設(shè)計(jì)工具,可實(shí)現(xiàn)從零開(kāi)始快速生成
    發(fā)表于 05-07 08:57

    設(shè)備保養(yǎng)計(jì)劃自動(dòng)生成?這5個(gè)功能你必須知道

    在工業(yè)4.0的浪潮下,設(shè)備管理正經(jīng)歷深刻變革,借助智能系統(tǒng)實(shí)現(xiàn)設(shè)備保養(yǎng)計(jì)劃自動(dòng)化生成與高效執(zhí)行,助力企業(yè)降本增效。系統(tǒng)通過(guò)多維數(shù)據(jù)分析,精準(zhǔn)適配每臺(tái)設(shè)備,實(shí)現(xiàn)資源合理配置,避免停機(jī)損失。同時(shí),自動(dòng)派發(fā)任務(wù),實(shí)現(xiàn)無(wú)縫執(zhí)行。
    的頭像 發(fā)表于 03-20 11:24 ?332次閱讀
    設(shè)備保養(yǎng)計(jì)劃<b class='flag-5'>自動(dòng)</b><b class='flag-5'>生成</b>?這5個(gè)功能你必須知道

    自動(dòng)化巨頭布局生成式AI,先瞄準(zhǔn)PLC編程?

    ? ? ? 確實(shí),自動(dòng)化巨頭正在積極布局生成式AI,并首先將目光瞄準(zhǔn)了PLC(可編程邏輯控制器)編程。以下是對(duì)這一趨勢(shì)的詳細(xì)分析: ? ? ? 一、自動(dòng)化巨頭布局
    的頭像 發(fā)表于 01-21 17:24 ?532次閱讀

    EE-322:面向SHARC處理器的專(zhuān)家代碼生成

    電子發(fā)燒友網(wǎng)站提供《EE-322:面向SHARC處理器的專(zhuān)家代碼生成器.pdf》資料免費(fèi)下載
    發(fā)表于 01-07 14:04 ?0次下載
    EE-322:<b class='flag-5'>面向</b>SHARC處理器的專(zhuān)家代碼<b class='flag-5'>生成</b>器

    自動(dòng)零件分析儀的原理和應(yīng)用

    定性分析,并將分析結(jié)果傳輸至數(shù)據(jù)處理系統(tǒng)。 數(shù)據(jù)處理系統(tǒng):對(duì)接收到的分析結(jié)果進(jìn)行處理,如計(jì)算濃度、生成報(bào)告等?,F(xiàn)代自動(dòng)零件
    發(fā)表于 12-23 15:22

    AIGC與傳統(tǒng)內(nèi)容生成的區(qū)別 AIGC的優(yōu)勢(shì)和挑戰(zhàn)

    、AIGC與傳統(tǒng)內(nèi)容生成的區(qū)別 數(shù)據(jù)類(lèi)型與處理 : AIGC主要面向結(jié)構(gòu)化數(shù)據(jù)的生成,如自然語(yǔ)言文本、圖像、音頻、視頻等。這類(lèi)數(shù)據(jù)規(guī)模更大,內(nèi)在結(jié)
    的頭像 發(fā)表于 11-22 16:04 ?1430次閱讀

    RNN的應(yīng)用領(lǐng)域及未來(lái)發(fā)展趨勢(shì)

    多個(gè)領(lǐng)域得到了廣泛的應(yīng)用。 RNN的應(yīng)用領(lǐng)域 自然語(yǔ)言處理(NLP) 機(jī)器翻譯 :RNN能夠理解源語(yǔ)言的上下文信息,生成目標(biāo)語(yǔ)言的翻譯。 文本生成 :利用RNN生成連貫的文本,如新聞文章、故事等。
    的頭像 發(fā)表于 11-15 10:10 ?1448次閱讀

    如何實(shí)現(xiàn)離散傅里葉變換

    離散傅里葉變換(DFT)是將離散時(shí)序信號(hào)從時(shí)間域變換到頻率域的數(shù)學(xué)工具,其實(shí)現(xiàn)方法有多種,以下介紹幾種常見(jiàn)的實(shí)現(xiàn)方案: 一、直接計(jì)算法 直接依據(jù)離散傅里葉變換公式進(jìn)行計(jì)算,這種方法最簡(jiǎn)單直接,但時(shí)間
    的頭像 發(fā)表于 11-14 09:35 ?1347次閱讀

    基于LSTM神經(jīng)網(wǎng)絡(luò)的情感分析方法

    情感分析是自然語(yǔ)言處理(NLP)領(lǐng)域的一項(xiàng)重要任務(wù),旨在識(shí)別和提取文本中的主觀信息,如情感傾向、情感強(qiáng)度等。隨著深度學(xué)習(xí)技術(shù)的發(fā)展,基于LSTM(長(zhǎng)短期記憶)神經(jīng)網(wǎng)絡(luò)的
    的頭像 發(fā)表于 11-13 10:15 ?1280次閱讀

    如何自動(dòng)生成verilog代碼

    介紹幾種自動(dòng)生成verilog代碼的方法。
    的頭像 發(fā)表于 11-05 11:45 ?1033次閱讀
    如何<b class='flag-5'>自動(dòng)</b><b class='flag-5'>生成</b>verilog代碼

    AIGC與傳統(tǒng)內(nèi)容生成的區(qū)別

    AIGC : 主要面向結(jié)構(gòu)化數(shù)據(jù)的生成,如自然語(yǔ)言文本、圖像、音頻、視頻等。 這類(lèi)數(shù)據(jù)規(guī)模更大,內(nèi)在結(jié)構(gòu)更復(fù)雜,對(duì)處理技術(shù)提出了更高要求。 傳統(tǒng)內(nèi)容
    的頭像 發(fā)表于 10-25 15:13 ?1261次閱讀

    合宙面向全體用戶的一封求助信

    現(xiàn)面向所有合宙的用戶正式求助!??!希望有意愿幫助合宙的用戶,提出您的寶貴意見(jiàn)!
    的頭像 發(fā)表于 09-05 16:11 ?720次閱讀
    合宙<b class='flag-5'>面向</b>全體用戶的一封求助信

    TINA自動(dòng)生成外形出錯(cuò)怎么解決?

    我從TI官網(wǎng)下載了LM5145的PSPICE模型,想在TINA-TI中創(chuàng)建一個(gè)新宏,但是在自動(dòng)生成外形的時(shí)候出錯(cuò)了。請(qǐng)問(wèn)這種問(wèn)題怎么解決
    發(fā)表于 08-13 07:39

    數(shù)字信號(hào)是離散的還是連續(xù)的

    數(shù)字信號(hào)是一種離散的信號(hào),它具有離散的幅度和時(shí)間特性。與模擬信號(hào)相比,數(shù)字信號(hào)在時(shí)間上是離散的,幅度上也是離散的。 一、數(shù)字信號(hào)的概念 數(shù)字信號(hào)是一種用數(shù)字形式表示的信號(hào),它是由一系列
    的頭像 發(fā)表于 08-11 10:49 ?4345次閱讀

    關(guān)于Makefile自動(dòng)生成-autotools的使用

    的Makefile并非日常任務(wù),但遇見(jiàn)需要構(gòu)建大型軟件項(xiàng)目時(shí),利用工具自動(dòng)生成Makefile就顯得尤為關(guān)鍵。接下來(lái),我們將重點(diǎn)介紹一款自動(dòng)化構(gòu)建工具——Autoto
    的頭像 發(fā)表于 07-25 15:50 ?1826次閱讀
    關(guān)于Makefile<b class='flag-5'>自動(dòng)</b><b class='flag-5'>生成</b>-autotools的使用