《计算机应用研究》|Application Research of Computers

改进型的batch normalization——BNalpha

Improvement of batch normalization—BNalpha

免费全文下载 (已被下载 次)  
获取PDF全文
作者 罗晨辉,孙洪飞
机构 厦门大学 航空航天学院
统计 摘要被查看 次,已被下载
摘要 针对提高卷积神经网络(Convolutional Neural Networks,CNNs)在图像识别方向的训练速度和识别准确率进行了研究。从BN(Batch Normalization)着手,通过新增参数对BN的仿射变换进行具体调节,并提出一种改进型的BN——BNalpha。除去带有某些特定结构的神经网络,相对于原始的BN,BNalpha可以在不增加运算复杂度的前提下,提升神经网络的训练速度和识别准确度。通过对BN仿射变换的参数进行分析和对比,尝试解释BN在网络中的运行机理,并以此说明BNalpha相对于BN的改进为何生效。最后通过CIFAR-10和CIFAR-100数据集以及不同类型的卷积神经网络结构对BNalpha和BN进行对比实验分析,实验结果表明BNalpha能够进一步提升训练速度和识别准确度。
关键词 卷积神经网络;深度学习;图像识别;batch normalization
基金项目 国家自然科学基金资助项目(61273153,61374037)
本文URL http://www.arocmag.com/article/02-2021-05-049.html
收稿日期
修回日期
页码 -
中图分类号 TP391.41
文献标志码