当前位置:

OFweek人工智能网

机器学习

正文

人工智能时代,鉴黄为何仍要靠大量人工?

导读: 机器还很难模拟出普通用户的使用体验,很难理解内容背后的深意,很难作出准确的“人的判断”。

近日,Facebook的CEO马克.扎克伯格宣布公司将会新增3000名内容审核员,他们负责审核平台上的内容,包括最近网上有出现的谋杀、自杀和强奸等视频。

科技巨头聘用大量人力来做内容审核,已经不算什么稀奇事。Google、百度、腾讯、新浪、今日头条都设置了类似岗位。对于做内容的平台,内容审核尤其重要,一旦没有处理好,很有可能影响到整个公司的前景。为什么在科技如此发达的今天,机器还没法完全替代传统的人工审核?各大巨头还需要人海战术来鉴黄呢?

内容平台的“阿克琉斯之踵”

今年4月,一位泰国男子在Facebook上直播杀害亲生女儿的画面,随后该男子自杀。视频在Facebook上挂了近24个小时,大量用户看到婴儿被杀害的过程。其中一段视频播放量超过25万次,视频还被其他用户上传到其他视频网站。

色情、暴力、犯罪,这些不良内容多次在Facebook上出现,这让Facebook陷入争议。今年3月,一名15岁美国少女被多名男子性侵犯并被直播到Facebook上,视频吸引了至少40万人关注。有人称,这样的画面让人感到害怕和不安,“看了之后晚上都睡不着觉”。

事发后,Facebook团队意识到问题的严重性。Facebook的CEO扎克伯格公开表示,Facebook将尽一切努力避免此类内容再出现,并且表示Facebook要变成一个健康而安全的网络社区,还有很多工作要做。

扩招内容审核员正是Facebook为此做出的举措。此前,Facebook在全球已有4500名员工负责内容审核,此次扩招会让审核过程更加及时和准确。这些员工主要负责处理那些没有被审查到的、或者没有被立即删除的不良内容。

社交媒体时代,每天都有大量的用户在不断地生产内容。对于平台而言,除了补贴内容生产方外,还需要支出更多的内容审核成本。但尽管如此,平台还是不惜人力和财力,去做好内容审核的工作。一方面是大量的不良内容,会使得用户产生反感,会降低使用产品的频率甚至远离产品。劣币驱逐良币,不利于平台的长期发展。另外一方面,不良内容的发布,很有可能导致触犯国家法律,引来平台的管制甚至关闭,今年年初,知名的同性社区ZANK就因为直播涉黄被整体关闭。

在国内,BAT许多平台都设有内容审核员一职。以新浪微博为例,新浪微博是国内最大的社交平台之一。对于内容,新浪微博仍主要采用人工审核的方式。除了色情、暴力等不良内容,平台还会留意政治、宗教等敏感内容。但是依然有各种擦边或者不良内容的漏网之鱼。内容的审核和把关,成了各大内容平台的阿克琉斯之踵,从初创公司到科技巨头,没有人敢放松这根神经。除非是别有用心的想利用情色来吸引用户,但那样肯定不会长久。

让人绝望的内容审核工作

2013年,百度、腾讯、金山等10多个互联网公司组成“安全联盟”,用20万高薪招聘“首席淫秽色情鉴定官”。上班能看片还拿着高薪,网友调侃“简直没天理”。

其实,内容审核工作并没有想象中简单。以Facebook为例,Facebook已有的审核员每天要处理大量的UGC内容,他们需要审核包括色情、暴力、犯罪等多个方面的不良内容,在判断内容时会承受很大的压力。他们必须区分开普通儿童写真和儿童色情照片,还要分清楚这是朋友间的玩笑还是侵犯性内容。他们必须做到细致地归类,需要将内容放到具体语境下进行区分。要是没有审核到位,Facebook很有可能会被指责侵犯公民的言论自由。

1  2  下一页>  
声明: 本文由入驻OFweek公众平台的作者撰写,观点仅代表作者本人,不代表OFweek立场。如有侵权或其他问题,请联系举报。

我来说两句

(共0条评论,0人参与)

请输入评论

请输入评论/评论长度6~500个字

您提交的评论过于频繁,请输入验证码继续

暂无评论

暂无评论

文章纠错
x
*文字标题:
*纠错内容:
联系邮箱:
*验 证 码:

粤公网安备 44030502002758号