《计算机应用研究》|Application Research of Computers

批量正则化DBN分类方法研究

Research on batch regularization DBN classification method

免费全文下载 (已被下载 次)  
获取PDF全文
作者 李蓓蓓,宋威,戴鑫
机构 江南大学 物联网工程学院
统计 摘要被查看 次,已被下载
摘要 针对深度置信网络(DBN)在微调过程中易受训练参数影响的问题,提出一种批量正则化DBN分类方法(BNDBN)。该方法首先利用DBN进行无监督学习以获得原始数据的高层次表达;然后通过引入尺度变换和平移变换参数对网络中间层的输出特征每一维进行批量正则化处理;并将处理后的特征输入到非线性变换激活层中;最后使用随机梯度下降法对仿射变换参数以及原始网络的参数进行训练学习。BNDBN方法减少了梯度对参数规模的依赖性,有效解决了因网络参数变化而造成的激活函数值分布变化的问题,提高了训练效率。为了检验所提出方法的有效性,选取MNIST手写体数据库和USPS手写数字识别库进行测试,通过与Dropout-DBN、DBN、ANN、SVM、KNN对比,结果表明,提出的方法分类准确率明显提高,具有更强的特征提取能力。
关键词 深度置信网络;分类;无监督学习;尺度变换;平移变换;批量正则化
基金项目 国家自然科学基金资助项目(61673193)
中央高校基本科研业务费资助项目(JUSRP51635B,JUSRP51510)
江苏自然科学基金资助项目(BK20150159)
本文URL http://www.arocmag.com/article/02-2019-04-005.html
收稿日期
修回日期
页码 -
中图分类号 TP183
文献标志码