CanSecWest 2019 | 如何用AI“欺骗”AI？

我们也对目标检测网络Faster R-CNN [7] 进行了攻击实验。目标检测网络以待检测的图片为输入，输出前景目标的坐标和类别，如人、马、狗、汽车等。一般目标检测网络的损失函数包含定位和分类两部分。在这个实验中，我们仅考虑了分类损失，因为我们发现分类失败能更大概率影响目标检测的结果。图8展示了目标检测攻击的结果，原本能够精准定位和分类的前景目标的坐标和类别都发生了改变，说明针对目标分类的噪声也可以迁移到目标定位。

 (a)原始图片

(b)对抗样本图

8. 目标检测攻击

3.3 交通指示牌识别

图9展示了我们对交通指示牌识别网络的攻击样例。目标检测与交通指示牌识别是自动驾驶或辅助驾驶系统常用的两种AI技术，一旦目标检测与交通指示牌识别系统受到攻击，后果将不堪设想(如图10)。

 图9. 交通指示牌识别攻击

图10. 辅助驾驶系统

3.4 色情识别

（编辑：威海站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!