当前位置:

OFweek人工智能网

计算机视觉

正文

AI与偏见:从当代新“相面术”说起

导读: (一)AI作为工具,映射的是人类本就存有的偏见、歧视。(二)AI作为工具,还将大大强化人类社会中的偏见、歧视。

AI与偏见:从当代新“相面术”说起

图片来自“123rf.com.cn”

相面术,无疑是一门古老而又生命力旺盛的学问。

说它古老,是因为其历史悠久、源远流长。中国相面术的起源,最早可以上溯至氏族社会时期,到了春秋战国时期就已十分流行,《麻衣神相》是相面术的集大成之作,拥有深广的群众基础。大家耳熟能详的文学作品中经常能看到相面术的身影:大富大贵之人一般都相貌不凡,如《三国演义》中刘备的“双耳垂肩、双手过膝”、关羽的“丹凤眼、卧蚕眉”等;而奸恶之人也都天生异相,如《史记》里秦始皇的“蜂准、长目、挚鸟膺、豺声”。简而言之,相面术就是为“那个人一瞅就不是啥好东西”这句话所准备的理论基础。

说它生命力旺盛,是因为相面术不但能深深地植根于人类“颜控”的本性,还能紧随时代发展的步伐,调整自身形态,最终在新的时代成功站稳脚跟。从古代游街串巷的算命先生,到曾国藩的《冰鉴》,再到龙勃罗梭(Cesare Lombroso, 1836-1909)的犯罪人类学的提出,相面术总能“以无厚入有间”,找到自己的容身之处。在AI日益发挥着如同工业时代“蒸汽机”一样作用的今天,相面术似乎也嗅到了自己“寄生”的新方向。

去年秋天,来自斯坦福大学的Michal Kosinski和Yilun Wang合作发表了一篇题为《深度神经网络可通过面部图像确定个体性取向》(Deep Neural Networks can Detect Sexual Orientation from Faces)的论文,一石激起千层浪,引发了舆论的大哗。

二人从美国约会网站及平台的公开信息中采集了14776位用户的35326张面部照片,并用深度神经网络(DNN)密集提取并量化了他们的脸型、嘴型、鼻形以及面部毛发等特征,接着他们引入VGG-Face DNN模型,通过面部表情、光线、图像属性等因素标记图像中的人脸,随后二人用奇异值分解(SVD)等手段对图像分类,区分出同性恋与非同性恋照片。

经过一系列训练,该算法识别男女性取向的准确率分别达到了81%和71%;倘若受测个体的照片有五篇以上的话,这个数字将分别提高至91%和83%。二人还用数千张图片分别合成了两组照片,分别显示了男女异性恋和同性恋较具代表性的样态,两相比对,同性恋人群的面部轮廓和五官位置形状确实有细微的差别。

AI与偏见:从当代新“相面术”说起

这项研究成果被有些媒体称之为“AI Gaydar”,它一经发表,就引发了LGBTQ群体的强烈不满,这一群体中两个较有代表性的组织Human Rights Campaign (HRC)和GLAAD直接将此研究斥之为“伪科学”(Junk Science),并认为这一技术手段的广泛应用不但会严重侵害个人隐私权,而是还将会是对本就脆弱敏感的性少数人群的新的“系统化虐待”(Systematized Abuse)。更令人不安的是,该文的作者之一Michal Kosinski还对《卫报》的记者表示,这一算法在未来还可应用到判定受测者的智商、政治倾向以及犯罪几率等领域。

事实上,早就有科研团队在Kosinski提及的几个领域中取得了研究成果。来自上海交通大学的两位研究者Xiaolin Wu(武筱林)和Xi Zhang(张熙)于2016年的11月份就在arXiv上提交了一篇题为《基于面部图像的自动犯罪概率推断》(Automated Inference on Criminality using Face Images)的论文,二人通过视觉识别和机器学习技术,检测了1856张中国成年男子的照片,其中近一半照片都来自已经定罪的罪犯。

实验结果表明,这一算法可以以90%左右的正确率识别出罪犯和非罪犯;同时,他们还发现罪犯和非罪犯在内眼角间距、上唇曲率和鼻唇角度这三个测度上存在着较显著的差异,并且罪犯面孔特征的差异要大于守法公民。这篇论文的有些结论与“麻衣相法”的部分内容不谋而合,而论文作者也将陈抟所撰写的《神相全编》(陕西师范大学出版社,2010)列入到了自己的参考文献当中。

AI与偏见:从当代新“相面术”说起

姑且不论上述两项研究的样本择取(数量、范围、标准)是否客观,也不论研究者们设计实验的初衷(前者意欲提醒人们注意个人信息安全,后者试图反对所谓的“相由心生”)是否合理,这样的研究在逻辑上就存有很大的漏洞:“同性恋”、“犯罪”的成因由多个变量决定,在研究中研究者却将“相”或“外貌”作为了唯一变量,而这唯一的变量其实是“天生”的,换言之,就是“不变”的;亦即,作为不变的“变量”的“相”与诸如“同性恋”、“犯罪”之间是无法建立起因果关系的。基于这点,我们可以大致断定,这类研究不过是形形色色“相面术”披着AI的外衣在当代的又一次“借尸还魂”罢了。

更令人担忧的是,由于AI的加持,这样研究成果一旦从实验室应用到实际生活场景当中,所产生的负面影响将会超出以往所有的“相面术”:由于AI处理数据的超强能力,这些成果的负面影响极有可能波及到社会中的大多数人;倘若这些成果一旦堂而皇之地进入到极权政体或同性恋非法的国家的话,“相面”借由技术这一貌似“客观”、“科学”的外衣,将在严重侵害少数族群的正当权益的同时,制造出一个人人自危的社会环境,无限放大、扩散本已存在于人类社会的各种偏见、歧视,最终导致灾难性的后果。纳粹的“雅利安种族优越论”殷鉴未远,从事科学研究的工作者们对此需要慎之又慎。

AI与偏见:从当代新“相面术”说起

(纳粹科学家正在做容貌测量)

1  2  下一页>  
声明: 本文系OFweek根据授权转载自其它媒体或授权刊载,目的在于信息传递,并不代表本站赞同其观点和对其真实性负责,如有新闻稿件和图片作品的内容、版权以及其它问题的,请联系我们。

我来说两句

(共0条评论,0人参与)

请输入评论

请输入评论/评论长度6~500个字

您提交的评论过于频繁,请输入验证码继续

暂无评论

暂无评论

文章纠错
x
*文字标题:
*纠错内容:
联系邮箱:
*验 证 码:

粤公网安备 44030502002758号