订阅
纠错
加入自媒体

AI的多元化危机:研究报告吐槽人工智能领域过于“白人直男癌”

AI Now 研究所在今日发布的一份报告中称,人工智能行业面临着“多样化危机”,并且直指该领域方向的“关键问题”。 报告发现,女性和有色人种在 AI 领域的比例严重不足,约 80% 人工智能教授性别为男性。即便是 Facebook 和 Google 这样的大公司,也只有大约 10% 的女性 AI 研究人员,更别提有色人种只占其中的一小部分了。

AI的多元化危机:研究报告吐槽人工智能领域过于“白人直男癌”

报告截图(来自:AI Now | PDF ,via TheVerge )

AI Now Institute 联席主管 Meredith Whittaker 一针见血地指出,在打造影响其他人群的工具上,AI 领域缺乏多样性、过于“白人直男癌”了。

更糟糕的是,通过修复潜在求职者“渠道”来改善问题的方案,很大程度上也都失败了。 研究人员写到:“经过数十年的管道研究、评估了从学校到行业的各类求职者流动,AI 领域在多样性上并未取得实质性进展”。

为此,AI Now Institute 提出了一些改善问题的建议,比如企业能够发布更多按照种族和性别划分的补偿数据,以及通过公布骚扰/歧视报告,来提升透明度。

有观点指出, 尽管多样性是科技行业难以逾越的鸿沟,但其在 AI 领域埋下的风险却要大得多, 尤其是某些潜在含有偏见的技术(比如面部识别),可能会不成比例地影响历史上被边缘化的那部分群体。

其实早在 2017 年,就有面部扫描识别程序存在不公正现象的批评。但除了更加严格的测试,AI 工具的制造商们,也必须切实最好风险规避,将这些系统打造得既安全又公平。

早前亚马逊因 Rekognition 面部识别技术存在偏见而遭到炮轰,谷歌也在各界压力传导下成立了人工智能审查委员会。

研究人员指出,“ 人工智能中领域的多样性危机,已有详细记录且造成了广泛的影响, 涉及行业 / 学术领域的不平等、招聘 / 晋升差异、反映和扩大有偏见的观念、以及自动化系统中的生物识别等方面”。

声明: 本文系OFweek根据授权转载自其它媒体或授权刊载,目的在于信息传递,并不代表本站赞同其观点和对其真实性负责,如有新闻稿件和图片作品的内容、版权以及其它问题的,请联系我们。

发表评论

0条评论,0人参与

请输入评论内容...

请输入评论/评论长度6~500个字

您提交的评论过于频繁,请输入验证码继续

暂无评论

暂无评论

文章纠错
x
*文字标题:
*纠错内容:
联系邮箱:
*验 证 码:

粤公网安备 44030502002758号