基于语义的对抗攻击及迁移性研究

2020-11-06 09:19:19

近日，上海交通大学电子信息与电气工程学院学子陈思哲基于毕业设计内容撰写的学术论文《Universal Adversarial Attack on Attention and the Resulting Dataset DamageNet》（合作者为自动化系本科生何正保、硕士研究生孙程锦、杨杰教授、黄晓霖副教授）被人工智能顶级期刊IEEE Transactions on Pattern Analysis and Machine Intelligence 录用。

《基于语义的对抗攻击及迁移性研究》提出了全新的注意力攻击（AoA）方法。该方法攻击网络间的共同语义特征——注意力热图，在图像分类神经网络中，达到目前最好的黑盒攻击迁移成功率。除分类任务外，陈思哲还在卡耐基梅隆大学张坤教授的指导下，设计了目标检测网络的注意力攻击机制。利用这种两种攻击创建的分类、检测通用对抗数据集DAmageNet和AOCO能够帮助其他研究者测试和提高网络的鲁棒性。他的研究已经吸引了华为中央媒体研究院、腾讯朱雀实验室的合作兴趣。(上海交大）