一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

如何提高事件檢測(ED)模型的魯棒性和泛化能力?

深度學習自然語言處理 ? 來源:深度學習的知識小屋 ? 作者:深度學習的知識小 ? 2020-12-31 10:21 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

論文中指出,以往關于ED的工作都是考慮如何提升模型的性能,而較少考慮模型的魯棒性和泛化能力,作者將模型的魯棒性和泛化能力定義為如下三條,并通過設計模型進行研究:

抗攻擊性能:當訓練數(shù)據(jù)中被加入擾動,會如何影響模型性能;

新類型的預測:模型能否預測出訓練集中未見過的事件類型;

事件類型的模糊性: 根據(jù)統(tǒng)計,70%的事件觸發(fā)詞能夠觸發(fā)不同類型的事件,如何正確識別出這些模糊性觸發(fā)詞在各自上下文中所觸發(fā)的具體事件類型。

基于以上問題,作者提出一種新的學習方式,主要包括一下兩部分:

Contextselective discriminative learning: 根據(jù)句子內部的不同words的重要性得到trigger的上下文表示,目標是基于trigger的上下文表示預測句子中被mask的trigger的事件類型。

Contextualized similarity learning:基于"相同類型的事件觸發(fā)詞應當具有相似上下文"的假設,以mask-contraining的句子對為輸入,如何輸入中的兩個句子表達的是同一事件類型,則訓練目標是使他們的masked triggers具有語義相近的上下文表示。

作者分別將本文的模型與以往的SOTA模型進行了對比實驗,證明了本文模型能較好地應對對抗攻擊、未知類型預測和事件模糊性區(qū)分的問題。

原文標題:【每日一讀】EMNLP2020:如何提高事件檢測(ED)模型的魯棒性和泛化能力?

文章出處:【微信公眾號:深度學習自然語言處理】歡迎添加關注!文章轉載請注明出處。

責任編輯:haq

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 模型
    +關注

    關注

    1

    文章

    3504

    瀏覽量

    50202
  • 深度學習
    +關注

    關注

    73

    文章

    5557

    瀏覽量

    122656

原文標題:【每日一讀】EMNLP2020:如何提高事件檢測(ED)模型的魯棒性和泛化能力?

文章出處:【微信號:zenRRan,微信公眾號:深度學習自然語言處理】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    明晚開播 |數(shù)據(jù)智能系列講座第7期:面向高能力的視覺感知系統(tǒng)空間建模與微調學習

    構建高效、物理一致且具備良好能力的視覺感知系統(tǒng),是視覺智能、邊緣計算與具身機器人中的關鍵挑戰(zhàn)。為提升系統(tǒng)的與適應
    的頭像 發(fā)表于 06-24 08:01 ?140次閱讀
    明晚開播 |數(shù)據(jù)智能系列講座第7期:面向高<b class='flag-5'>泛</b><b class='flag-5'>化</b><b class='flag-5'>能力</b>的視覺感知系統(tǒng)空間建模與微調學習

    VirtualLab Fusion應用:光柵的分析與優(yōu)化

    一個場景,在這個場景中,我們分析了二元光柵的偏振依賴,并對結構進行了優(yōu)化,使其在任意偏振角入射光下均能表現(xiàn)良好。 傾斜光柵的優(yōu)化 這個用例演示了一個具有稍微變化的填充因子的傾
    發(fā)表于 02-19 08:54

    【「基于大模型的RAG應用開發(fā)與優(yōu)化」閱讀體驗】+大模型微調技術解讀

    重復項或使用編輯距離算法比較文本相似度。數(shù)據(jù)標注:高質量的數(shù)據(jù)標注直接影響模型的性能。標注過程應遵循明確標注規(guī)則、選擇合適的標注工具、進行多輪審核和質量控制等原則。數(shù)據(jù)增強:提高模型
    發(fā)表于 01-14 16:51

    自動駕駛中常提的是個啥?

    持穩(wěn)定的運行能力,這是自動駕駛實現(xiàn)從技術驗證到實際落地的關鍵要求。然而,這一概念對大多數(shù)人來說可能較為抽象,其在自動駕駛中的具體表現(xiàn)、技術實現(xiàn)與挑戰(zhàn)卻充滿了值得探討的內容。 什么
    的頭像 發(fā)表于 01-02 16:32 ?7085次閱讀
    自動駕駛中常提的<b class='flag-5'>魯</b><b class='flag-5'>棒</b><b class='flag-5'>性</b>是個啥?

    【「具身智能機器人系統(tǒng)」閱讀體驗】2.具身智能機器人大模型

    ,能夠利用\"思維鏈\"的技術將復雜任務分解為多個子任務,以漸進的方式解決問題。這不僅提高了任務的成功率,也顯著增強了系統(tǒng)的,使得機器人可以更高效地應對復雜環(huán)境和多樣
    發(fā)表于 12-29 23:04

    【「大模型啟示錄」閱讀體驗】營銷領域大模型的應用

    效地制定針對不同客戶群體的營銷策略,提高營銷活動的針對和有效。 大模型在內容生成方面也具有顯著優(yōu)勢。它可以快速、高效地生成高質量的營銷文案、廣告語、海報、視頻等營銷素材。這種
    發(fā)表于 12-24 12:48

    AI模型部署邊緣設備的奇妙之旅:目標檢測模型

    介紹了如何使用分類任務進行手寫數(shù)字的分類。相信大家腦海中可能會產生如下疑問: 數(shù)據(jù)依賴強:分類模型的表現(xiàn)通常依賴于大量的標注數(shù)據(jù)進行訓練。獲取高質量、大規(guī)模的數(shù)據(jù)集既耗時又昂貴。
    發(fā)表于 12-19 14:33

    用于任意排列多相機的通用視覺里程計系統(tǒng)

    如何讓多相機視覺SLAM系統(tǒng)更易于部署且對環(huán)境更具?本文提出了一種適用于任意排列多相機的通用視覺里程計系統(tǒng)。在KITTI-360和MultiCamData數(shù)據(jù)集上驗證了該方法對于任意放置相機的
    的頭像 發(fā)表于 12-13 11:22 ?724次閱讀
    用于任意排列多相機的通用視覺里程計系統(tǒng)

    原理在控制系統(tǒng)中的應用

    在現(xiàn)代控制系統(tǒng)的設計和分析中,是一個核心概念。指的是系統(tǒng)在面對
    的頭像 發(fā)表于 11-11 10:26 ?3820次閱讀

    深度學習模型優(yōu)化

    。異常值和噪聲可能會誤導模型的訓練,導致模型在面對新數(shù)據(jù)時表現(xiàn)不佳。 數(shù)據(jù)標準/歸一 :將數(shù)據(jù)轉換到同一尺度上,有助于模型更好地學習數(shù)據(jù)
    的頭像 發(fā)表于 11-11 10:25 ?1078次閱讀

    算法在數(shù)據(jù)處理中的應用

    一、算法的基本概念 算法是指在面對數(shù)據(jù)中的異常值、噪聲和不確定性時,仍能保持穩(wěn)定性能
    的頭像 發(fā)表于 11-11 10:22 ?1755次閱讀

    分析方法及其應用

    (Robustness)是指系統(tǒng)或方法對于外部干擾、誤差或變化的穩(wěn)定性和適應能力。以下是對
    的頭像 發(fā)表于 11-11 10:21 ?8733次閱讀

    在機器學習中的重要

    在機器學習領域,模型是指模型在面對輸入數(shù)據(jù)的擾動、異常值、噪聲或對抗性攻擊時,仍能保持性能的能力
    的頭像 發(fā)表于 11-11 10:19 ?1206次閱讀

    如何提高系統(tǒng)的

    保持其核心功能的能力。一個的系統(tǒng)能夠抵御故障,從錯誤中恢復,并在不確定的環(huán)境中保持穩(wěn)定。 二、系統(tǒng)設計階段的
    的頭像 發(fā)表于 11-11 10:17 ?2291次閱讀

    人臉檢測模型有哪些

    和姿態(tài)變化的較差。 HOG + SVM HOG(Histogram of Oriented Gradients)是一種
    的頭像 發(fā)表于 07-03 17:05 ?1754次閱讀