基于預(yù)訓(xùn)練模型和長短期記憶網(wǎng)絡(luò)的深度學(xué)習(xí)模型
資料介紹
語義槽填充是對(duì)話系統(tǒng)中一項(xiàng)非常重要的任務(wù),旨在為輸入句子的毎個(gè)單詞標(biāo)注正確的標(biāo)簽,其性能的妤壞極大地影響著后續(xù)的對(duì)話管理模塊。目前,使用深度學(xué)習(xí)方法解決該任務(wù)時(shí),一般利用隨機(jī)詞向量或者預(yù)訓(xùn)練詞向量作為模型的初始化詞向量。但是,隨機(jī)詞向量存在不具備語乂和語法信息的缺點(diǎn);預(yù)訓(xùn)練詞向量存在¨一詞-乂”的缺點(diǎn),無法為模型提供具備上下文依賴的詞向量。針對(duì)該問題,提岀了一種基于預(yù)訓(xùn)練模型BERT和長短期記憶網(wǎng)絡(luò)的深度學(xué)習(xí)模型。該模型使用基Transformer的雙向編碼表征模型( Bidirectional Encoder Representations from Transformers,BERT)產(chǎn)生具備上下文依賴的詞向量,并將其作為雙向長短期記憶網(wǎng)絡(luò)( Bidirectional Long Short- Term Memory, BILSTM)的輸入,最后利用 Softmax函數(shù)和條件隨機(jī)場進(jìn)行解碼。將預(yù)訓(xùn)練模型BERT和 BILSTM網(wǎng)絡(luò)作為整體進(jìn)行訓(xùn)練,達(dá)到了提升語乂槽填充飪務(wù)性能的目的。在MIT Restaurant Corpus, MIT Movie Corpυs和 MIT Movie trivial Corpυs3個(gè)數(shù)據(jù)集上,所提模型得出了良好的結(jié)果,最大F值分別為78.74%,87.60%和71.54%。實(shí)驗(yàn)結(jié)果表明,所提模型顯著提升了語義槽填充任務(wù)的F1值。
- 基于時(shí)空特性的ST-LSTM網(wǎng)絡(luò)位置預(yù)測模型 13次下載
- 基于神經(jīng)網(wǎng)絡(luò)和長短期記憶網(wǎng)絡(luò)的網(wǎng)絡(luò)入侵檢測 2次下載
- 基于BERT的中文科技NLP預(yù)訓(xùn)練模型 14次下載
- 基于長短期記憶網(wǎng)絡(luò)的長距離股票趨勢預(yù)測 7次下載
- 一種側(cè)重于學(xué)習(xí)情感特征的預(yù)訓(xùn)練方法 4次下載
- 深度模型中的優(yōu)化與學(xué)習(xí)課件下載 3次下載
- 一種脫離預(yù)訓(xùn)練的多尺度目標(biāo)檢測網(wǎng)絡(luò)模型 26次下載
- 基于改進(jìn)長短時(shí)記憶網(wǎng)絡(luò)的兒童語音情感識(shí)別模型 14次下載
- 基于雙向長短期記憶神經(jīng)網(wǎng)絡(luò)的交互注意力模型 28次下載
- 基于雙向長短期記憶循環(huán)神經(jīng)網(wǎng)絡(luò)的句子切分模型 14次下載
- 一種基于多視圖架構(gòu)的深度卷積神經(jīng)網(wǎng)絡(luò)模型 5次下載
- 借助長短期記憶網(wǎng)絡(luò)預(yù)測文件訪問熱度預(yù)測 7次下載
- 如何使用深度長短時(shí)記憶神經(jīng)網(wǎng)絡(luò)模型進(jìn)行心律失常檢測算法的資料說明 3次下載
- 如何使用樹結(jié)構(gòu)長短期記憶神經(jīng)網(wǎng)絡(luò)進(jìn)行金融時(shí)間序列預(yù)測 7次下載
- 基于長短期記憶模型的多維主題模型 1次下載
- 預(yù)訓(xùn)練和遷移學(xué)習(xí)的區(qū)別和聯(lián)系 1157次閱讀
- 大語言模型的預(yù)訓(xùn)練 483次閱讀
- 預(yù)訓(xùn)練模型的基本原理和應(yīng)用 3029次閱讀
- 深度學(xué)習(xí)的典型模型和訓(xùn)練過程 1607次閱讀
- 深度學(xué)習(xí)模型訓(xùn)練過程詳解 1410次閱讀
- 深度學(xué)習(xí)的模型優(yōu)化與調(diào)試方法 914次閱讀
- 如何基于深度學(xué)習(xí)模型訓(xùn)練實(shí)現(xiàn)工件切割點(diǎn)位置預(yù)測 843次閱讀
- 如何基于深度學(xué)習(xí)模型訓(xùn)練實(shí)現(xiàn)圓檢測與圓心位置預(yù)測 2109次閱讀
- 視覺深度學(xué)習(xí)遷移學(xué)習(xí)訓(xùn)練框架Torchvision介紹 933次閱讀
- 什么是預(yù)訓(xùn)練AI模型? 1080次閱讀
- 超詳細(xì)配置教程:用Windows電腦訓(xùn)練深度學(xué)習(xí)模型 1510次閱讀
- 利用視覺語言模型對(duì)檢測器進(jìn)行預(yù)訓(xùn)練 1429次閱讀
- 如何實(shí)現(xiàn)更綠色、經(jīng)濟(jì)的NLP預(yù)訓(xùn)練模型遷移 2244次閱讀
- 針對(duì)線性回歸模型和深度學(xué)習(xí)模型,介紹了確定訓(xùn)練數(shù)據(jù)集規(guī)模的方法 6219次閱讀
- tensorflow 訓(xùn)練模型之目標(biāo)檢測入門知識(shí)與案例解析 1.6w次閱讀
下載排行
本周
- 1DC電源插座圖紙
- 0.67 MB | 2次下載 | 免費(fèi)
- 2AN158 GD32VW553 Wi-Fi開發(fā)指南
- 1.51MB | 2次下載 | 免費(fèi)
- 3AN148 GD32VW553射頻硬件開發(fā)指南
- 2.07MB | 1次下載 | 免費(fèi)
- 4AN111-LTC3219用戶指南
- 84.32KB | 次下載 | 免費(fèi)
- 5AN153-用于電源系統(tǒng)管理的Linduino
- 1.38MB | 次下載 | 免費(fèi)
- 6AN-283: Σ-Δ型ADC和DAC[中文版]
- 677.86KB | 次下載 | 免費(fèi)
- 7SM2018E 支持可控硅調(diào)光線性恒流控制芯片
- 402.24 KB | 次下載 | 免費(fèi)
- 8AN-1308: 電流檢測放大器共模階躍響應(yīng)
- 545.42KB | 次下載 | 免費(fèi)
本月
- 1ADI高性能電源管理解決方案
- 2.43 MB | 450次下載 | 免費(fèi)
- 2免費(fèi)開源CC3D飛控資料(電路圖&PCB源文件、BOM、
- 5.67 MB | 138次下載 | 1 積分
- 3基于STM32單片機(jī)智能手環(huán)心率計(jì)步器體溫顯示設(shè)計(jì)
- 0.10 MB | 130次下載 | 免費(fèi)
- 4使用單片機(jī)實(shí)現(xiàn)七人表決器的程序和仿真資料免費(fèi)下載
- 2.96 MB | 44次下載 | 免費(fèi)
- 53314A函數(shù)發(fā)生器維修手冊(cè)
- 16.30 MB | 31次下載 | 免費(fèi)
- 6美的電磁爐維修手冊(cè)大全
- 1.56 MB | 24次下載 | 5 積分
- 7如何正確測試電源的紋波
- 0.36 MB | 17次下載 | 免費(fèi)
- 8感應(yīng)筆電路圖
- 0.06 MB | 10次下載 | 免費(fèi)
總榜
- 1matlab軟件下載入口
- 未知 | 935121次下載 | 10 積分
- 2開源硬件-PMP21529.1-4 開關(guān)降壓/升壓雙向直流/直流轉(zhuǎn)換器 PCB layout 設(shè)計(jì)
- 1.48MB | 420062次下載 | 10 積分
- 3Altium DXP2002下載入口
- 未知 | 233088次下載 | 10 積分
- 4電路仿真軟件multisim 10.0免費(fèi)下載
- 340992 | 191367次下載 | 10 積分
- 5十天學(xué)會(huì)AVR單片機(jī)與C語言視頻教程 下載
- 158M | 183335次下載 | 10 積分
- 6labview8.5下載
- 未知 | 81581次下載 | 10 積分
- 7Keil工具M(jìn)DK-Arm免費(fèi)下載
- 0.02 MB | 73810次下載 | 10 積分
- 8LabVIEW 8.6下載
- 未知 | 65988次下載 | 10 積分
評(píng)論