实验者穿着基于对抗样本的T恤可以骗过AI眼睛达到“隐身”的效果

近日，美国东北大学和麻省理工学院等研究机构，共同研制出了基于对抗样本的T恤衫。这件T恤衫是全球首个在非刚性的物体上进行物理对抗实验的实例。利用AI进行检测时无法检测出行人，即使T恤产生褶皱或变形的情况，都能够达到“隐身”的效果。

这项技术的原理是科研人员针对T恤上的原图案进行了修改，通过了一定的技术手段将图案生成了有较强干扰性的图案，以此来替换原有图案，改变T恤的视觉效果。这样就会在AI识别时使AI模型对数据标签预测产生混淆和误差，达到攻击的目的。在实验中，一名穿白T恤的男生和一名穿黑T恤的女生迎面走来，AI只检测到了穿黑体恤的女生，但是没有检测到穿白T恤的男生，原因就是白T恤上有千变万化的色块，这些色块严重的对抗了AI，从而导致AI检测中出现了错误，进而对AI产生干扰。

王金桥曾经说过攻击者通过微不足道的变化来干扰源数据，可以使得基于深度神经网络的人工智能算法输出攻击者想要的任何错误结果。而这类被干扰之后的输入样本被称之为对抗样本。对抗样本一般会用来检测一些需要安全系数较高的系统，通过不断的打磨AI的安全性，抵御风险。就比如我们的刷脸支付系统。如果不经过深度的打磨，就会造成攻击者用照片就可以进行支付的后果，带来灾难性的后果。