《计算机应用研究》|Application Research of Computers

基于注意力机制的物理对抗样本检测方法研究

Research on physical adversarial sample detection method based on attention mechanism

免费全文下载 (已被下载 次)  
获取PDF全文
作者 魏忠诚,冯浩,张新秋,连彬
机构 河北工程大学 信息与电气工程学院;河北工程大学 水利水电学院;河北省安防信息感知与处理重点实验室
统计 摘要被查看 次,已被下载
摘要 随着深度学习的普及与发展,对抗样本的存在严重威胁着深度学习模型的安全。针对物理世界中对抗样本的攻击问题,提出了一种基于注意力机制的物理对抗样本检测方法。该方法将注意力机制与特征压缩相结合,对局部可视对抗样本主要区域进行针对性检测,排除非主要区域的影响,减少计算工作量;通过有效组合多种特征压缩方法对样本中的主要区域进行处理,破坏对抗噪声块的结构,使其失去攻击性。在MNIST 和 CIFAR-10 数据集上对不同的对抗攻击进行防御测试,并与其他对抗防御方法进行对比实验。结果表明,该方法的防御准确率可达到95%以上,与其他局部对抗样本防御方法相比通用性高,稳定性更强,可有效防御局部可视对抗样本的攻击。
关键词 深度学习;局部可视对抗样本;对抗样本检测;注意力机制;稳定性
基金项目 国家重点研发计划项目(2018YFF0301004)
国家自然科学基金资助项目(61802107)
河北省自然科学基金资助项目(F2018402251)
河北省高等学校科学技术研究项目(QN2020193)
石家庄市重点研发计划项目(201790571A)
本文URL http://www.arocmag.com/article/02-2022-01-047.html
收稿日期
修回日期
页码 -
中图分类号 TP391
文献标志码