《计算机应用研究》|Application Research of Computers

基于防退化策略的多通道闭环BiLSTM在文本分类中的应用研究

Multi-channel closed-loop BiLSTM with anti-degradation strategy for text classification

免费全文下载 (已被下载 次)  
获取PDF全文
作者 孙中宇,龚红仿,狄俊珂
机构 长沙理工大学 数学与统计学院
统计 摘要被查看 次,已被下载
摘要 双向长短时记忆(BiLSTM)及其变体能够处理可变长度序列,由于文本的复杂语义信息和文本数据嵌入维度的高维性,BiLSTM表现出低层次网络学习能力较弱,通过叠加网络层学习高层次的特征表示,容易出现网络退化问题。为解决这些问题,提出一种闭环-BiLSTM模块用于丰富每一层网络结构的隐状态的语义信息表示,同时采用残差连接和增强稀疏表示策略来优化模块,稀疏化隐状态特征向量减缓网络退化问题。最后利用加权融合的多通道词嵌入将语义信息和情感信息在低维张量下实现融合来丰富输入层的文本表示。对情感分类和问题分类的数据集进行了实验验证,实验表明,模型在捕捉文本的情感信息表达具有出色的性能,具有较好的分类精度和鲁棒性。
关键词 文本分类;闭环BiLSTM;优化策略;多通道词嵌入
基金项目 国家自然科学基金资助项目(61972055)
湖南省教育厅重点资助项目(18A145)
本文URL http://www.arocmag.com/article/02-2021-05-007.html
收稿日期
修回日期
页码 -
中图分类号 TP
文献标志码