在手机等移动端广泛使用的指纹识别、人脸识别,似乎并没有看上去那么安全。
在手机等移动端广泛使用的指纹识别、人脸识别,似乎并没有看上去那么安全。
“在手机上,目前全球95%以上的人脸识别系统可以被轻松绕过,成本不超过100元钱;全球99%指纹识别系统可被绕过,成本不超过10元。”
说这话的,是韩祖利。7月20日,这位百度安全产品总经理想通过上述例子说明,人工智能面临的安全风险挑战,一点儿也不比互联网小,甚至更大。
一种风险:贴一个反光条,就能骗过汽车自动驾驶系统
指纹识别、人脸识别就那么容易被绕过?
韩祖利拿指纹识别举例:你敲过的键盘,摸过的光滑平面,通常都会留下你的指纹,采集到它并不难。有了指纹把它复印到一张特殊纸上,表面特殊处理一下,在后面再垫一个海绵,就能骗过99%的指纹识别系统,让它们误认这是手指,“整个过程要不了2分钟,花费10元以内。”
韩祖利说,大规模采集指纹识别还相对较难,“因为毕竟要接触你、靠近你,才能拿到指纹。”而人脸识别、虹膜识别则相对更简单。像眼睛虹膜,在自然光下隔着你10米远就能拍到,复制更容易。
他还举了无人驾驶汽车的例子: 他们实验室测试了几个自动驾驶系统。只需在汽车后贴一些2、3公分的反光条,就能骗过这些系统,让它们识别不到这辆汽车,从而错误驾驶,发生危险。
在他看来,人的感知系统经过了上亿年进化,相对完善;而人工智能倚仗的感知系统,则并非这样,还存在很多缺陷和不足。
这些问题,还只关乎人工智能传感器欺骗。韩祖利表示人工智能面临的是“整体体系安全风险”——从传感器欺骗,到软件缺陷、数据风险、系统风险、网络风险,“和传统互联网比起来,它的战线更长”。
一个建议:人工智能领域的安全投入,也应占研发总投入5%以上
为什么似乎并没有很多关于人工智能风险问题的报道?“现在产业还不够大、商业价值还不够大。”他认为当人工智能产业发展到一定程度,在商业利益推动下,就会有人去可以利用这些缺陷或风险。
面对人工智能的安全风险,企业该怎么办?
韩祖利表示,对企业来讲最简单的办法是重视人工智能安全风险、购买相关安全产品,互联网时代有个经典建议——安全投入至少要占研发总投入5%。人工智能领域可借鉴这个经验。
至于消费者,他建议谨慎对待,“对隐私敏感的一些内容,最好确认他的安全风险(指纹识别、人脸识别等)”同时他建议选用知名厂家的、信得过的产品和品牌,因其对安全问题更为关注、投入更多,通常也会更尊重用户的隐私。
“在手机上,目前全球95%以上的人脸识别系统可以被轻松绕过,成本不超过100元钱;全球99%指纹识别系统可被绕过,成本不超过10元。”
说这话的,是韩祖利。7月20日,这位百度安全产品总经理想通过上述例子说明,人工智能面临的安全风险挑战,一点儿也不比互联网小,甚至更大。
一种风险:贴一个反光条,就能骗过汽车自动驾驶系统
指纹识别、人脸识别就那么容易被绕过?
韩祖利拿指纹识别举例:你敲过的键盘,摸过的光滑平面,通常都会留下你的指纹,采集到它并不难。有了指纹把它复印到一张特殊纸上,表面特殊处理一下,在后面再垫一个海绵,就能骗过99%的指纹识别系统,让它们误认这是手指,“整个过程要不了2分钟,花费10元以内。”
韩祖利说,大规模采集指纹识别还相对较难,“因为毕竟要接触你、靠近你,才能拿到指纹。”而人脸识别、虹膜识别则相对更简单。像眼睛虹膜,在自然光下隔着你10米远就能拍到,复制更容易。
他还举了无人驾驶汽车的例子: 他们实验室测试了几个自动驾驶系统。只需在汽车后贴一些2、3公分的反光条,就能骗过这些系统,让它们识别不到这辆汽车,从而错误驾驶,发生危险。
在他看来,人的感知系统经过了上亿年进化,相对完善;而人工智能倚仗的感知系统,则并非这样,还存在很多缺陷和不足。
这些问题,还只关乎人工智能传感器欺骗。韩祖利表示人工智能面临的是“整体体系安全风险”——从传感器欺骗,到软件缺陷、数据风险、系统风险、网络风险,“和传统互联网比起来,它的战线更长”。
一个建议:人工智能领域的安全投入,也应占研发总投入5%以上
为什么似乎并没有很多关于人工智能风险问题的报道?“现在产业还不够大、商业价值还不够大。”他认为当人工智能产业发展到一定程度,在商业利益推动下,就会有人去可以利用这些缺陷或风险。
面对人工智能的安全风险,企业该怎么办?
韩祖利表示,对企业来讲最简单的办法是重视人工智能安全风险、购买相关安全产品,互联网时代有个经典建议——安全投入至少要占研发总投入5%。人工智能领域可借鉴这个经验。
至于消费者,他建议谨慎对待,“对隐私敏感的一些内容,最好确认他的安全风险(指纹识别、人脸识别等)”同时他建议选用知名厂家的、信得过的产品和品牌,因其对安全问题更为关注、投入更多,通常也会更尊重用户的隐私。
领取专属 10元无门槛券
私享最新 技术干货