admin管理员组

文章数量:1609899

设计并解释人脸检测的通用对抗补丁@

  • 简介
  • 人脸检测方法
  • 一种简单的攻击方法。
  • 一个有意思的发现，并解释。
  • 两种改进的攻击方法
  • 总结

简介

本文章借鉴focal loss的思想结合实验发现提出了一种通用的用于对抗人脸检测的patch。通过添加的patch使得人脸检测器不能检测出人脸。（没有牵扯到识别）
主要内容包括：
1、一种简单的攻击方法。
2、一个有意思的发现，并给出解释。
3、两种改进的攻击方法。


虚线代表攻击成功，检测器未检测出。实现代表攻击失败，检测器检测成功

人脸检测方法

本文主要的人脸检测方法是single level network这篇文章中提出的方法，下面是他的流程图。本文攻击的是红色框标出的的pos cls部分。

概括一下分为以下几步：
1、自定义很多的region proposal
2、分类这些个proposal的是否含有人脸，预测出每个proposal的概率值值得注意的是分类使用的softmax cross entroy。（论文写作中把softmax 和cross entroy 分开了，给阅读带来一定困扰）这就意味着K个proposal中如果一些proposal的概率值减小了，必定有一些的概率值增大。
3、计算大概率含有人脸的proposal 和ground truth的IoU值，Iou大于某个阈值意味着是最终的检测框。
损失函数是：

前两项是分类（是否含有人脸）相关的值，最后一项是iou相关的值。

一种简单的攻击方法。

攻击的直觉解释：如果我能够adv patch使得人脸检测第二步中的含有人脸的proposal的概率值很小，那么就无法识别出proposal，从而攻击成功。
攻击是最大化下式：S_i是预测proposal的分数

攻击效果如简介中图的第4列所示，有意思的是发现人脸检测器会检测到patch是人脸。

一个有意思的发现，并解释。

根据上述方法攻击发现patch变成了人脸的形状，好神奇！！！而且跟patch的位置，检测框架以及各种因素无关，都会变成人脸形状。


问题就出在分类proposal使用的softmax cross entroy中。优化的目标是让所有的proposal的值降低趋向于零，当大多数proposal的值降低时，从而patch对应的proposal的值就会升高。类似于类别不均衡的问题比如：大多数label的值为0。在训练时网络更倾向于优化那些大多数的proposal，patch的proposal对learning signal（这个词出自focal loss paper）的贡献比例很低。因而出现这种情况。

两种改进的攻击方法

这种情况类似于类别不均衡的分类问题，作者借鉴focal loss提出了改进方案：

（这个改进的方案牵扯到focal loss 这个博客讲的很细致
然后两种相结合，进一步提升攻击效果。

总结

这篇文章的亮点在于那个向人脸优化的发现。其余的都是顺其自然的进展。

本文标签： UniversalinterpretationDesignADVERSARIALDetection

版权声明：本文标题：Design and Interpretation of Universal Adversarial Patched in Face Detection 内容由热心网友自发贡献，该文观点仅代表作者本人， 转载请联系作者并注明出处：https://www.elefans.com/dongtai/1728575858a1164459.html， 本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容，一经查实，本站将立刻删除。