近日，厦门理工学院软件与信息安全测评实验室老师杜侠博士在机器学习系统物理对抗攻击方面取得突破性进展，相关研究成果以题为《利用对抗性快速自动增强方法实现高效物理图像攻击》（"Efficient Physical Image Attacks Using Adversarial Fast Autoaugmentation Methods"）发表在国际知名期刊《知识系统》（Knowledge-Based Systems）上，KBS为中科院一区期刊，其最新影响因子为8.038（2023年），杜侠博士为文章第一作者。该研究提出了新的物理对抗攻击方法，可在数字和现实场景中成功欺骗多种图像分类器，有效增强了对抗攻击的效率和稳健性。
随着深度学习系统的广泛应用，对抗攻击对其造成的潜在威胁日益引起关注。传统对抗攻击多集中于数字环境，现有的物理攻击研究相对有限。本研究针对该领域空白，开发了对抗性快速自动增强（AFA）方法。这一创新的增强方法显著减少了样本收集的需求，优化了图像在真实世界中的适应性，使得对抗样本在多种物理条件下仍可保持高成功率，极大地提升了物理攻击的实用性。
实验结果表明，基于AFA的攻击方法在多个先进的机器学习模型上均表现出极强的成功率和稳健性。尤其是AFA-MLEM在旋转、缩放及光照变化等多种真实环境条件下，仍能保持显著的攻击效果，成功率更为稳定。
图1 对抗性快速自动增强框架
图2 生成物理对抗样本测试结果