订阅
纠错
加入自媒体

亚马逊将人脸识别武器化,你的脸还好吗?

2018-07-17 11:26
智能相对论
关注

人脸识别,想说爱你不容易

人脸识别技术已经投入市场中有相当长的时间了,可是从其表现来看,并没有想象中优异。智能相对论分析师柯鸣认为,人脸识别技术的发展,其依然存在着较多问题。

1.“冤枉了98%的好人”

人脸识别的准确率,远没有我们想象中的那么高。在此前伦敦议会听证会上,大都会警察局局长Cressida Dick透露出,本地警察局部署的人脸识别系统准确率仅为2%。

去年6月的欧冠联赛上,当南威尔士警方的人脸识别相机首次应用时,系统发出了2470次警报。也就是说,在这场球赛中每隔三秒就会提示嫌犯来了,系统的努力程度着实令人感动。

但是,在这两千多次的预警中,只有173次是正确的判断,AFR的错误率高达92%。英国警方给出的统计数据显示,截止到今年5月份,南威尔士警方的AFR识别错误率平均为91%。

亚马逊将人脸识别武器化,你的脸还好吗?

历史上最著名的人脸误判案例可能是1903年在美国堪萨斯州发生的William West-Will West案件。当时一个名为威尔?韦斯特(Will West)的犯人正要被收押进莱文沃思(Leavenworth)监狱。监狱职员看他面熟,问他以前是否来过这里,威尔说没有。接着职员调出了William West的照片给威尔看,威尔说:“这的确是我,可是你们是怎么拿到这张照片的呢?以前我从未到这儿来过。”从此,从美国开始,各国监狱和司法系统开始用指纹进行罪犯身份登记和管理。

显然,此类的乌龙事件让人啼笑皆非的同时也不免有阵阵隐忧。如此“不靠谱”的人脸识别,真的能够成为安防等领域的保护伞吗?

2.人脸识别,道阻且长

先不论人脸识别本身的正确率,其自身运作中也存在着一部分问题。

首先,人脸识别并不是精准信息对比,而仅仅是相似度对比。因为人脸识别和算大技术不同,值的设定方法完全不同,评判的标准自然也不同,即使从识别实际效果看,其包括误识率(FAR):将其他人误作指定人员的概率;以及拒识率(FRR):将指定人员误作其他人员的概率。这些结果都受到训练和测试空间样本的影响,难以做到完全精确。

其次,人脸图片的采集如果不做活体监测,就易招致基于用户照片的重放攻击。活体检测的话,对后台的计算资源和网络的传输资源要求较高,所以在目前实际上线的人脸识别都是非常容易攻破的。

最后,人脸形态的易变形让人脸识别更易出错。人可以通过脸部的变化产生很多表情,而在不同观察角度,人脸的视觉图像也相差很大,另外,人脸识别还受光照条件(例如白天和夜晚,室内和室外等)、人脸的很多遮盖物(例如口罩、墨镜、头发、胡须等)、年龄等多方面因素的影响。

隐私的无情泄露,你的脸还好吗?

在大量的抗议面前,三大公司中微软首先选择了低头。在关于人脸识别的潜在用途和滥用的一篇博客文章中,微软总裁Bradford L. Smith将该技术与受到全面监管的药品和汽车等产品进行了比较,并敦促美国国会展开研究并监督人脸识别技术的使用。

作为人脸识别软件主要制造商之一,微软表示它将采取措施降低这些系统产生偏差的可能性;制定新的公共原则来管理技术;并会更谨慎地出售其在该领域的软件和专业知识。微软指出,虽然技术行业需要对其产品负责,但是政府也要采取行动。

人脸识别是目前AI领域里应用最广泛的技术之一,但在推广的过程中也引起了越来越多的争议。今年4月,个人隐私保护组织向美国联邦贸易委员会提起诉讼,称Facebook在未获得用户适当许可的情况下开启了新的人脸识别服务。

当前,大数据、云计算和人工智能等技术推动移动互联网中新的应用场景层出不穷,但其背后的隐私和数据保护,已经成为网络平台和移动终端迫在眉睫的要务。从整体移动终端市场来看,应用领域数据滥用的情况十分突出。第三方应用对于个人信息过度收集、隐秘收集和诱骗收集的情况日渐增多。

用户隐私数据安全挑战加剧主要出于三方面原因:第一,过于笼统的“用户协议”贩卖了用户信息,获取和收集用户个人信息的授权,导致个人信息使用的不规范甚至大量泄漏。

第二,用户本身对保护个人信息重视程度不足。出于方便的考虑,不少用户在多处使用简单重复的账号和密码,当一处信息泄露便导致整体信息暴露。

第三,法律层面的缺失。当数据如同能源一样重要时,法律法规的滞后在一定程度上导致了数据安全和隐私保护的缺失。数据所有权、数据交易规则等基础法律界定仍未明确。例如,个人数据原本属于用户本身,但用户在网络平台中所产生的数据,如交易数据和行为数据,在经过脱敏后其所有权和使用权归属用户还是平台,仍未有答案。

从目前来看,人脸识别的场景也主要分为两种:一种是线上,如电脑通过你上传的用户图像识别你的身份;另一个是线下,如系统通过你在街上被监视器拍到照片来识别你的身份。而当前的情况是,线上与线下的数据保护都做的远远不够。所谓的用户授权更多是形同虚设,谁真正拥有了我们的“脸”? 脸部识别软件的政府监管,将如何进行?人脸隐私保护这条路,似乎还需要坚强的走下去。

智能相对论:深挖人工智能这口井,评出咸淡,讲出黑白,道出深浅。重点关注领域:AI+医疗、机器人、智能驾驶、AI+硬件、物联网、AI+金融、AI+安全、AR/VR、开发者以及背后的芯片、算法、人机交互等。

<上一页  1  2  
声明: 本文由入驻维科号的作者撰写,观点仅代表作者本人,不代表OFweek立场。如有侵权或其他问题,请联系举报。

发表评论

0条评论,0人参与

请输入评论内容...

请输入评论/评论长度6~500个字

您提交的评论过于频繁,请输入验证码继续

暂无评论

暂无评论

人工智能 猎头职位 更多
扫码关注公众号
OFweek人工智能网
获取更多精彩内容
文章纠错
x
*文字标题:
*纠错内容:
联系邮箱:
*验 证 码:

粤公网安备 44030502002758号