想要如攻壳机动队的笑脸男在人脸辨识镜头前「消失」？你需要穿上这件T恤
现在很多地方都有摄影镜头，搭配背后的AI脸部辨识演算法，如果在结合上人口资料库，将很轻易地辨识出你在镜头前的踪影，记录你的行踪，中国的「天眼」系统就是这个样子。不过，我们有没有拒绝自己的脸孔在公共场所被辨识出来的权利呢？就像是攻壳机动队中的「笑脸男」那个样子？为了解决这个问题，或许你需要这件T恤。
深度神经网路通常用于对图像、声音或者其他输入进行辨识和分类，要实现精确辨识，研究人员就要用上百万的示例训练这些演算法。反过来说，既然我们知道了如何训练特定网路，那我们也就知道了如何反向训练特性网路，以产生相应的对抗式辨识模型。
当迎面走来一位穿著白T恤的男性和一位穿著黑T恤的女性时，如果我们脸部辨识的AI镜头中观察，会惊讶地发现AI只侦测到画面中女性的脸孔。
别担心，这并不是内部程式的性别歧视，问题出在衣服上。
当仔细观察这位男性穿的白T，第一印像是怪丑怪丑的，再看看，T恤上印有千变万化的色块，不过和普通T恤也没什么大的差别。
这就是你轻敌的地方了。
别看这件T恤设计得不怎么入眼，来头却不小，这是由IBM、MIT和东北大学的研究人员共同设计的，当你穿上这件T恤的时候，在AI的眼中看来，你就能神奇地和背景融为一体，就这么消失在了镜头之中。
东北大学电气与电脑工程助理教授Shelley Lin表示：「深层神经网路非常强大，但也十分脆弱。当穿上T恤，深层神经网路很可能无法在图像中辨识你。」
说了这么多，来看看这件T恤的「卖相」：
道理虽然都懂，但是能把T恤设计得稍微再好看一些吗？
首个实现动态对抗攻击的竟然是这件T恤？！
说到对抗模型的建立，很多人可能对此不屑一顾，这不很早就有了吗？
那我们就先来看看目前的部分战绩：
2016年，美国卡内基美隆大学和北卡罗来纳州教堂山分校的研究人员发明了一种眼镜，该眼镜能「迷惑」住脸部辨识技术，进而将佩戴者分类错误；2017年10月，加利福尼亚大学柏克莱分校电脑科学博士生Dan Hendrycks就「成功」地让AI系统将「停止」路标辨识为了「限速45」路标。
的确，这些对抗模型效果很好，近两年的发展似乎也还挺顺利。
但要提醒的是，大家可能还混淆了一个概念，上述两例都是在静态材料中生成的对抗性攻击，如果想要在影片上进行动态对抗，困难指数就得加倍。比如，在设计这件T恤的时候，研究人员就必须考虑，T恤在穿戴者移动时会起皱和折痕，否则就会直接影响到对抗效果。
卡利亚里大学助理教授、第一个对抗性示例的创建者Battista Biggio说：「对于物理攻击，真正的挑战是在整个影片持续时间内保持未被发现的状态。」Biggio开发的首个对抗性系统成功地欺骗了垃圾邮件检测程式，「当检测在每一格中进行时，要始终保持未被检测到要困难得多」。
为了实现动态对抗，研究人员使用了Lin所说的「变压器（transformer）」，这是一种测量T恤运动方式随后将其映射到设计中的方法。
通过专门研究两个通常用于训练目的的对象辨识神经网路YOLOv2和Faster R-CNN，团队发现，增加像素噪声会使AI混淆身体区域，进而使穿上T恤的人在AI摄影镜头下「隐身」。
随后，研究人员记录了一个穿著棋盘格图案T恤的人走路，跟踪棋盘上每个方块的角的变化，进而准确地绘制出了人移动时T恤的起皱规律。当整个模式建立起来之后，针对YOLOv2的对抗能力从27％提高到了63％，针对Faster R-CNN的对抗能力从11％提高到52％。
基于此，全球首个在移动材料上实现动态对抗的设计就创建成功了！
人们能借此重获隐私主权吗？
这种对抗攻击的原理，其实和深度神经网路的训练是同宗同源的。
我们都知道，深度神经网路通常用于对图像、声音或者其他输入进行辨识和分类，要实现精确辨识，研究人员就要用上百万的示例训练这些演算法，直到系统最终能辨别个人的相貌和声音等。
同时，反过来说，既然我们知道了如何训练特定网路，那我们也就知道了如何反向训练特性网路，以生成相应的对抗式辨识模型，比如让系统将熊猫辨识为长臂猿。
当我们深入到辨识过程中，神经网路会在需要辨识的人物或事物周围绘制一个「边界框」，随后再为该对象分配标签。也就是说，只要能找到神经网路的边界点——在AI看来某个物体是否为该物体的阈值，就足以创建可混淆AI分类和标签系统的设计。
之前，Lin和同事在研究一种用深层神经网路训练的物体检测器，利用这种检测器能快速并准确地标记影片中的「人」、「马」或「伞」等，但他们想借此发现在深度神经网路中存在的漏洞，「未来，希望我们能够解决这些问题，进而不会欺骗深度学习系统」。
这件T恤就是成果之一。
对于这件能保护人们讯息安全的T恤，让人疯狂想要入手了。但Lin对此表示，在现实中不太可能看到这些T恤，她解释道：「我们仍然很难使它在现实世界中正常使用，前提条件是，我们必须知道检测演算法的所有细节。因此这件T恤并不完美，这里那里可能都存在问题。」
在总结AI屡屡失利的原因时，谷歌AI工程师François Chollet表示，「深度神经网路十分脆弱，这无法从根本上解决」。
不过，克服这些缺陷的方法也还是存在的，研究人员需要额外增强模式匹配，例如，让AI自己探索世界，编写自己的程式码并保留记忆。一些专家认为，这类系统将成为未来十年AI研究不可忽视的一部分。
这件T恤的开发也标志著AI辨识面临著越来越强的危机感，人们或许能在讯息隐私方面逐渐重新获得主权。
资料来源：
本文转载自大数据文摘
