当前位置:

OFweek人工智能网

机器学习

正文

小伎俩便可蒙骗人工智能 算法漏洞存多重隐患

导读: 随着人工智能技术的发展,相关技术在社会生活的应用正越来越深入、广泛。但是机器学习算法不可避免存在的漏洞,成为人工智能产品使用中的“定时炸弹”。

随着人工智能技术的发展,相关技术在社会生活的应用正越来越深入、广泛。但是机器学习算法不可避免存在的漏洞,成为人工智能产品使用中的“定时炸弹”。

小小伎俩便可蒙骗人工智能 算法漏洞埋下多重隐患

据国外媒体报道,请想象今年是2022年,你正坐在一辆自动驾驶汽车中,按照每日的常规路线行驶。你们来到了一处停车标志前,这个地方已走过了上百次。然而这一次,汽车竟直接开了过去。

在你看来,这块停车标志看上去别无二致。但对于汽车来说,它却和其它停车标志截然不同。你和汽车不知道的是,就在几分钟前,一名街头艺术家在这块标志上贴了一小张贴纸。人眼注意不到,却逃不过机器的“眼睛”。换句话说,这张小小的贴纸使汽车将停车标志“看”成了完全不同的标志。

这听上去离我们很遥远。但近期研究显示,人工智能很容易被类似的方法糊弄,“看见”的东西与人眼产生巨大偏差。随着机器学习算法在交通、金融和医疗体系中运用得愈加普遍,计算机科学家希望在不法分子真正动手之前、找到对抗这些攻击的方法。

“机器学习和人工智能领域对这一问题感到十分担忧,更何况这些算法被运用得越来越普遍。”俄勒冈大学计算机与信息科学助理教授丹尼尔·洛德(Daniel Lowd)指出,“如果只是漏标了一封垃圾邮件,没什么大不了的。但如果你坐在一辆自动驾驶汽车里,你就得确保汽车知道往哪儿走、且不会撞上什么东西,因此风险自然高得多。”

智能机器是否会失灵、或受到黑客控制,取决于机器学习算法“了解”世界的方法。若机器受到干扰,就可能将熊猫看成长臂猿,或是将校车看成鸵鸟。法国和瑞士研究人员开展的一项实验显示,这样的干扰可导致计算机将松鼠看成灰狐狸,或将咖啡壶看成鹦鹉。

这是如何实现的呢?思考一下儿童学习识数的过程:儿童观察数字时,会注意到不同数字的共同特征,如“1又细又高,6和9都有一个大圆环,8则有两个”等等。看过了足够多的数字之后,即使字体不同,儿童也能迅速认出4、8、3等新数字。

机器学习算法了解世界的过程其实与此类似。要使计算机探测到某种信息,科学家会先向计算机中输入成百上千条实例。机器筛查这些数据时(如:这是一个数字;这不是数字;这是一个数字;这不是数字),便可逐渐了解该信息的特征。很快,机器便能准确得出“图片上是数字5”这样的结论。

从数字到猫咪,从船只到人脸,儿童和计算机都利用了这一方法学习识别各种各样的物件。但和人类儿童不同,计算机不会对高级细节多加留意,如猫咪毛茸茸的耳朵、或数字4独特的三角形结构。机器“看见”的不是图片整体,而是图片中的单个像素。以数字1为例,如果大多数数字1都在某一位置上有黑像素、另一个位置上有几个白像素,那么机器只有在检查过这几个像素之后,才会做出决断。再说回停车标志。如果标志的某些像素出现了肉眼不易察觉的变化,即专家所说的“干扰”,机器就会将停车标志看成其它东西。

怀俄明大学与康奈尔大学的进化人工智能实验室开展了类似研究,使人工智能产生了一系列视觉幻觉。这些图片中的抽象图案和色彩在人眼看来毫无意义,计算机却能迅速将其识别为蛇或步枪。这说明人工智能“眼中”的物体可能与实际情况大相径庭。

各种机器学习算法都存在这一缺陷。“每种算法都存在其漏洞,”美国范德堡大学计算机科学与计算机工程助理教授叶夫提尼·沃罗贝琴科(Yevgeniy Vorobeychik)指出,“我们生活在一个极其复杂的多维世界中,而算法只能关注其中的一小部分。”沃罗贝琴科“坚信”,如果这些漏洞的确存在,迟早会有人研究出利用漏洞的方法。有些人可能已经这么做了。

1  2  下一页>  
声明: 本文由入驻OFweek公众平台的作者撰写,观点仅代表作者本人,不代表OFweek立场。如有侵权或其他问题,请联系举报。

我来说两句

(共0条评论,0人参与)

请输入评论

请输入评论/评论长度6~500个字

您提交的评论过于频繁,请输入验证码继续

暂无评论

暂无评论

X
文章纠错
x
*文字标题:
*纠错内容:
联系邮箱:
*验 证 码: