無監(jiān)督的多跳問答的可能性研究
標注多跳問答（Multi-hop QA）數據集費時費力!本文首次研究了無監(jiān)督的多跳問答的可能性，提出了MQG-QA，一種無監(jiān)督的框架，從同構和異構數據源中自動生成多跳問答對。使用生成的數據預先訓練QA系統(tǒng)將大大減少對人工標注訓練數據的需求。
多跳問答(QA)訓練數據的獲取是非常耗時費力的。為了解決這個問題，我們探索了無監(jiān)督的多跳QA問答對生成的問題，可以在沒有標注的QA對場景下使用，非常的適合真實場景。
我們模型首先通過首先從每個數據源中選擇或生成相關信息，然后將多個信息整合起來，形成一個多跳問題。我們發(fā)現，用我們模型產生的訓練數據訓練出來的模型，性能和完全監(jiān)督模型之間的F1差距較小。這個現象是非常激動人心的，表明我們可以通過無監(jiān)督預的構造數據來大大減少對人工標注的訓練的需求。
下圖是該方法的簡易用法演示：
原文標題：【NAACL2021】初探無監(jiān)督的多跳問答對
文章出處：【微信公眾號：深度學習自然語言處理】歡迎添加關注！文章轉載請注明出處。
責任編輯:haq
聲明：本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人，不代表電子發(fā)燒友網立場。文章及其配圖僅供工程師學習之用，如有內容侵權或者其他違規(guī)問題，請聯系本站處理。
舉報投訴
-
人工智能
+關注
關注
1804文章
48477瀏覽量
245196
原文標題：【NAACL2021】初探無監(jiān)督的多跳問答對
文章出處：【微信號：zenRRan，微信公眾號：深度學習自然語言處理】歡迎添加關注！文章轉載請注明出處。
發(fā)布評論請先 登錄
相關推薦
熱點推薦
大功率永磁無刷直流電機及其系統(tǒng)研究
大功率永磁無刷直流電機驅動系統(tǒng)由于運行效率高、調速性能好、可靠性高等優(yōu)點，在國外已成功應用于對系統(tǒng)效率、可靠性有特殊要求的推進領域中。然而，國際上關于大功率永磁無刷電機及其驅動系統(tǒng)的成套技術一直對我
發(fā)表于 02-26 16:24
AI如何對產品設計帶來更多的可能性？
AI(人工智能)對產品設計帶來了廣泛而深遠的可能性，這些可能性主要體現在以下幾個方面 1.創(chuàng)新設計的激發(fā) 創(chuàng)意生成:AI能夠學習和模仿人類設計師的創(chuàng)作過程，通過深度學習等技術生成全新的、獨特
ADS131A02從AIN1P采到的ADC值不準，請問有哪些可能性會造成這樣的影響？
客戶使用TI的ADC芯片ADS131A02，發(fā)現從AIN1P采到的ADC值不準，于是將AIN1P和VREF_2V5相連，發(fā)現也沒法讀出滿量程的AD值，換算出來只有2.45V左右。請問有哪些可能性會造成這樣的影響？
謝謝！
發(fā)表于 10-14 07:04
高通探索收購英特爾芯片設計業(yè)務的可能性
在科技行業(yè)并購傳聞頻發(fā)的背景下，高通公司被曝已探索收購英特爾部分業(yè)務的可能性，特別是其客戶端PC芯片設計業(yè)務，旨在進一步豐富和增強其產品組合。據多位知情人士透露，高通對英特爾的這部分資產表現出濃厚興趣，而英特爾則正積極尋求現金流，考慮剝離非核心業(yè)務及出售資產以優(yōu)化財務結構。
新思科技探索AI+EDA的更多可能性
芯片設計復雜性的快速指數級增長給開發(fā)者帶來了巨大的挑戰(zhàn)，整個行業(yè)不僅要向埃米級發(fā)展、Muiti-Die系統(tǒng)和工藝節(jié)點遷移所帶來的挑戰(zhàn)，還需要應對愈加緊迫的上市時間目標、不斷增加的制造測試成本以及人才短缺等問題。早在AI大熱之前，芯片設計行業(yè)就把目光放到了AI，探索AI+EDA的更多
三星電子積極探討在越南設立半導體組裝工廠的可能性
據韓國政府方面的最新消息透露，三星電子的越南分公司正積極探討在越南設立半導體組裝工廠的可能性，盡管具體的選址尚未塵埃落定，但有線索指向富士康投資活躍的北江地區(qū)附近，這一區(qū)域因其得天獨厚的地理位置而備受矚目。
蘋果積極探索為Apple Watch SE引入塑料表殼的可能性
8月7日，國際媒體傳來新消息，據知情人士透露，蘋果公司正積極探索為即將推出的Apple Watch SE系列引入塑料表殼的可能性，此舉旨在通過材料創(chuàng)新進一步壓縮成本，增強市場競爭力。這一變化不僅預示著成本效益的顯著提升，還可能開辟新的市場細分領域，特別是滿足家長為孩子選購
【《大語言模型應用指南》閱讀體驗】+ 基礎知識學習
信息有助于模型更深入地理解文本的含義和意圖。
3. 推理與判斷
在問答任務中，大語言模型不僅需要理解問題的字面意義，還需要進行推理和判斷以得出準確的答案。例如，在處理多跳推理問題時，模型需要綜合多個事實
發(fā)表于 08-02 11:03
為什么要使用跳頻技術？跳頻序列類型有哪些？
頻、空中干擾并提高無線通信的健壯性和穩(wěn)定性,，經典藍牙跳頻技術應運而生，本文主要介紹經典藍牙跳頻技術相關內容。
神經網絡如何用無監(jiān)督算法訓練
神經網絡作為深度學習的重要組成部分，其訓練方式多樣，其中無監(jiān)督學習是一種重要的訓練策略。無監(jiān)督學習旨在從未標記的數據中發(fā)現數據內在的結構、模式或規(guī)律，從而提取有用的特征表示。這種訓練方
深度學習中的無監(jiān)督學習方法綜述
應用中往往難以實現。因此，無監(jiān)督學習在深度學習中扮演著越來越重要的角色。本文旨在綜述深度學習中的無監(jiān)督學習方法，包括自編碼器、生成對抗網絡、聚類算法等，并分析它們的原理、應用場景以及優(yōu)
基于FPGA的類腦計算平臺 —PYNQ 集群的無監(jiān)督圖像識別類腦計算系統(tǒng)
用基于脈沖前饋卷積網絡，運用 STDP 無監(jiān)督學習算法，相較于 CNN 等傳統(tǒng)神經網絡，更具有生物真實性，事件觸發(fā)型的權重更新模式使計算需求降低，能耗減少。
(2)利用 SNN 仿真器能夠大規(guī)模分布式
發(fā)表于 06-25 18:35
藍牙Mesh模塊多跳大數據量高帶寬傳輸數據方法
通過多個跳數進行通信，從而實現大范圍的覆蓋。然而，隨著數據量的增加和帶寬需求的提高，如何在藍牙Mesh網絡中實現高效、穩(wěn)定的多跳大數據量高帶寬傳輸數據成為了一個亟待解決的問題。本文將介紹一種基于藍牙Mesh模塊的
跳頻濾波器的工作原理及優(yōu)勢是什么
跳頻濾波器是一種利用頻率跳變技術來實現信號傳輸的無線通信系統(tǒng)。它通過在不同的頻率之間快速跳變來提高通信的可靠性和抗干擾能力。
工商網監(jiān)
評論