基于多頭卷積殘差連接的文本數(shù)據(jù)實體識別 | |
所屬分類:技術論文 | |
上傳者:wwei | |
文檔大?。?span>1297 K | |
標簽: 深度學習 命名實體識別 神經(jīng)網(wǎng)絡 | |
所需積分:0分積分不夠怎么辦? | |
文檔介紹:為構建工作報告中的文本數(shù)據(jù)關系型數(shù)據(jù)庫,,針對非結構化文本數(shù)據(jù)中有效信息實體提取問題以及傳統(tǒng)網(wǎng)絡在提取信息時特征丟失問題,,設計了一種基于深度學習的實體識別模型RoBERTa-MCR-BiGRU-CRF,首先利用預訓練模型RoBERTa作為編碼器,將訓練后的詞向量輸入到多頭卷積殘差網(wǎng)絡層MCR擴充語義信息,,接著輸入到門控循環(huán)BiGRU層進一步提取上下文特征,,最后經(jīng)過條件隨機場CRF層解碼進行標簽判別。經(jīng)過實驗,,模型在工作報告數(shù)據(jù)集上F1值達到96.64%,優(yōu)于其他對比模型,;并且在數(shù)據(jù)名稱實體類別上,,F(xiàn)1值分別比BERT-BiLSTM-CRF和RoBERTa-BiGRU-CRF提高了3.18%、2.87%,,結果表明該模型能較好地提取非結構化文本中的有效信息,。 | |
現(xiàn)在下載 | |
VIP會員,AET專家下載不扣分,;重復下載不扣分,,本人上傳資源不扣分。 |
Copyright ? 2005-2024 華北計算機系統(tǒng)工程研究所版權所有 京ICP備10017138號-2