订阅
纠错
加入自媒体

人工智能作恶,谁的过错?

2019-04-10 11:42
来源: 猎云网

如今,人工智能的工作方式产生了很大的变化。在很多情况下,你甚至不知道后台是人工智能系统在做决策。Crawford以人力资源系统为例:“很多公司正在使用人工智能系统扫描求职简历,以决定你是否值得面试。”听上去,这极大的提升了人力资源部门的效率,但亚马逊所研发的一个人工智能系统打破了这种美好的幻想。

据报道,亚马逊耗时两年,设计了一个人工智能自动简历扫描仪。但是该公司后来发现,该系统对所有女性申请者都存在偏见,以至于如果你的简历上出现了“女性”这个词,都会被排至末尾。

“这件事告诉,自动化这些工具实际上比你想象的要困难得多,因为亚马逊拥有一些非常棒的工程师,他们明确知道自己在做什么,也不希望这样的结果,因为他们没有发布这个工具。但这件事却透露了另一个重要细节,即他们所使用的训练数据,基本上都是来自白人样本,”Crawford说。

显然,要想让这些系统能够发挥原本的作用,让它们成为中立和客观的完美系统,我们必须更加挑剔。“这就是Whittaker和我成立这家研究所的原因,我们想要能够通过研究,对这些人工智能系统进行审核,”Crawford说道。

实际上,行业里的很多公司也已经开始了自我审核,比如谷歌和Facebook。有些甚至成立了道德委员会,希望能够逆转来自文化上的歧视。

在被问及政府监管问题时,Crawford表示对美国还没有任何形式的联邦隐私法感到惊讶:“这在当今时代有点不寻常,到目前为止,只有州一级存在类似法案,比如加州就通过了全美最强的隐私法案,2020年生效。”

当然,很多人依然对此感到不满,尤其是与欧洲相比较。欧盟于2018年推行了通用数据保护条例(GDPR),虽然不是一项完美的立法,但却在国际上产生了影响。这也让美国政府面临着尴尬的境地,因为美国企业可能会受到其他国家的监管。

Crawford说:“我认为现在是开始制定法规、实现法规的关键时刻。这也将是未来五年里最重要的事情之一。联邦政府需要对人工智能及其附属技术如何被监管做出决策。”

Klobuchar参议员提出,可以使用罚款等手段来加强联邦贸易委员会的资金来源。而Nancy Pelosi也表示应该成立一个与AI相关的联邦机构欧来监控数据。

“这将会是一场大辩论!”Crawford说道。“在成立相关机构的过程中,需要众多专家的建议。比如在医疗保健领域,你需要医生和护士工会,你需要了解美国保险系统的神秘运作方式。你需要把他们放在与人工智能专家平等的位置上,通过实际行动来验证和确保这些系统是安全和有益的。”

<上一页  1  2  
声明: 本文系OFweek根据授权转载自其它媒体或授权刊载,目的在于信息传递,并不代表本站赞同其观点和对其真实性负责,如有新闻稿件和图片作品的内容、版权以及其它问题的,请联系我们。

发表评论

0条评论,0人参与

请输入评论内容...

请输入评论/评论长度6~500个字

您提交的评论过于频繁,请输入验证码继续

暂无评论

暂无评论

人工智能 猎头职位 更多
扫码关注公众号
OFweek人工智能网
获取更多精彩内容
文章纠错
x
*文字标题:
*纠错内容:
联系邮箱:
*验 证 码:

粤公网安备 44030502002758号