| 《计算机应用研究》优先出版 » 2021年第38卷 » 第8期 » 系统应用开发 |
面向个人信息保护的对抗性图像扰动算法研究 Research on adversarial image perturbation algorithm for personal information protection |
| 作者 | 王涛，马川，陈淑平 |
| 机构 | 河北科技师范学院 工商管理学院;燕山大学 信息科学与工程学院;燕山大学 图书馆 |
| 统计 | 摘要被查看 … 次，已被下载 … 次 |
| 摘要 | 通过研究对抗性图像扰动算法，应对深度神经网络对图像中个人信息的挖掘和发现，保护个人信息安全。将对抗样本生成问题转换为一个含有限制条件的多目标优化问题，考虑神经网络的分类置信度、扰动像素的位置以及色差等目标，利用差分进化算法迭代得到对抗样本。在MNIST和CIFAR-10数据集上，基于深度神经网络LeNet和ResNet进行了对抗样本生成实验，并从对抗成功率、扰动像素数目、优化效果和对抗样本的空间特征等方面进行了对比和分析。结果表明，算法在扰动像素极少的情况下(扰动均值为5)，依然可以保证对深度神经网络的有效对抗，并显著优化了扰动像素的位置及色差，达到不破坏原图像的情况下保护个人信息的目的。研究有助于促进信息技术红利共享与个人信息安全保障之间的平衡，也为对抗样本生成及深度神经网络中分类空间特征的研究提供了技术支撑。 |
| 关键词 | 深度学习；神经网络；对抗性图像扰动；稀疏对抗攻击；个人信息保护 |
| 基金项目 | 河北省社会科学基金资质项目(HB18SH012) |
| 本文URL | http://www.arocmag.com/article/02-2021-08-010.html |
| 收稿日期 | |
| 修回日期 | |
| 页码 | - |
| 中图分类号 | TP391.1 |
| 文献标志码 | |