当前位置:

OFweek人工智能网

语音识别

正文

人工智能在法律问题上可能会遇到哪些挑战?

导读: 人工智能(AI)的发展影响着每个人的日常生活,经历了过去一年中对AI的忧虑和伦理讨论之后,新的一年大家越来越关注AI领域的创业机会,人工智能随之成为今年创投圈的新风口。那么,国外的机器人产业的发展对中国有什么样的启示?

观察一个概念是不是在公众视野中“红了”,有一个判断标准,就是看看在各大机场的书店里有多少本关于这个主题的畅销书。以这个标准来看,人工智能现在无疑“红的发紫”,也还会继续红下去。

然而,科技领域的每一个新概念,从产生到具体在各行业中落地,都需要面对很多挑战,既有技术和商业层面的,也有法律和公共政策层面的。

在过去的一年之间,人工智能的发展已经引起了很多国家、国际组织的重视,联合国、美国、欧洲议会、英国、法国、电气和电子工程师协会(IEEE)先后发布多份关于人工智能的报告,讨论人工智能的影响和需要考虑的风险。这其中也包含了对于法律问题的讨论。

笔者作为多家科技公司的顾问,也在业务实践中遇到了很多和人工智能技术应用相关的法律问题,本文会结合实例讨论人工智能发展在法律问题上可能会遇到哪些挑战。

数据的收集、使用和安全

尽管人工智能从法律上很难准确定义,但从技术上来说,目前人工智能基本都会涉及机器学习技术(MachineLearning),这意味着需要收集、分析和使用大量数据,其中很多信息由于具有身份的识别性(包括结合其他信息识别身份),属于个人信息。按照个人信息保护方面的法律规定,这些行为应当取得用户明确、充分且完备的授权,并应当明确告知用户收集信息的目的、方式手段、内容、留存时限还有使用的范围等。

早在2011年,Facebook就曾因其人脸识别和标记功能未按伊利诺伊州《生物信息隐私法案》(BIPA)要求告知用户收集面部识别信息的期限和方式被诉,随后又因采集面部特征前未能明确提醒用户并征得用户同意而遭到爱尔兰和德国有关部门的调查。尽管Facebook辩称默认开启该功能是因为用户通常不会拒绝进行人脸识别,并且用户有权随时取消这一功能,但德国汉堡市数据保护与信息安全局坚持Facebook的面部识别技术违反了欧洲和德国的数据保护法,Facebook应删除相关数据。最终,Facebook被迫在欧洲地区关闭了人脸识别功能,并删除了针对欧洲用户建立的人脸数据库。

当然也有对企业有利的案例。著名篮球游戏NBA2K提供了使用用户面部识别信息建立角色模型的功能,部分用户以游戏制造者未征得其同意提起集体诉讼,法官认为被告收集信息最多是抽象的违反了BIPA,而没有给原告造成具体而特定的损害,因此原告主体身份不适格,驳回了原告的诉请。

除了需要按告知的方式和范围使用用户数据,人工智能应用的开发者还可能面临需要配合政府部门提供数据的情况。2016年阿肯色州发生的一起谋杀案中,警方希望获取Alexa语音助手收集的语音数据,该请求遭到了亚马逊公司的拒绝,理由是警方没有出具有效的法律文件。但这种例子以后还会层出不穷。公权和私权的冲突,也许会因为人工智能技术的引入,出现新的形式。

人工智能开发者在收集、使用数据的过程中,还要遵守安全保障原则,采取适当的、与个人信息遭受损害的可能性和严重性相适应的管理措施和技术手段,保护个人信息安全,防止未经授权的检索、披露及丢失、泄露、损毁和篡改个人信息。

数据歧视和算法歧视

人工智能在应用中,往往需要利用数据训练算法。如果输入的数据代表性性不足或存在偏差,训练出的结果将可能将偏差放大并呈现出某种歧视特征。根据国外报道,卡内基?梅隆大学的研究显示,由谷歌(Google)创建的广告定位算法可能存在对互联网用户的性别歧视。在搜索20万美元薪水的行政职位中,假冒男性用户组收到1852个广告,而假冒女性用户组仅收到318个广告。而在2016年3月23日,微软公司的人工智能聊天机器人Tay上线不到24小时,就在一些网友的恶意引导和训练下,发表了各种富有攻击性和歧视性的言论。除此以外,因为数据存在偏差,导致结果涉嫌歧视甚至攻击性的例子,已经大量出现。

1  2  3  下一页>  
声明: 本文由入驻OFweek公众平台的作者撰写,观点仅代表作者本人,不代表OFweek立场。如有侵权或其他问题,请联系举报。

我来说两句

(共0条评论,0人参与)

请输入评论

请输入评论/评论长度6~500个字

您提交的评论过于频繁,请输入验证码继续

暂无评论

暂无评论

X
文章纠错
x
*文字标题:
*纠错内容:
联系邮箱:
*验 证 码: