Facebook 内容审查员：日审帖子约 8000 篇

一名Facebook前仲裁员说，不断涌现的令人不安的材料压力，最终使她对儿童色情和兽交内容变得麻木不仁。

27岁的Sarah Katz 2016年通过第三方承包商Vertisystem，在加州门洛帕克的Facebook总部担任了8个月的内容审查员。她的工作很简单：弄清楚举报给Facebook的帖子是否违反了公司详细的社区标准。

实际上，这意味着每隔10秒就要看一次全新的、潜在恐怖的材料，并迅速决定是否需要将其丢弃。需要审核的帖子被称之为“票据”，每天大约有8000个。

为应对这一冲击，Facebook去年雇佣了4500名像Katz这样的仲裁员，并于2017年5月宣布计划再雇佣3000名仲裁员，以帮助Facebook对抗用户输出最黑暗的角落。Facebook也在投资人工智能，来帮助处理违规的帖子。

Facebook在5月份的一份透明度报告中，详细说明了它在禁止内容方面存在的问题。它说，今年前三个月，它对2100万个含有裸体和性活动的帖子以及340万个含有暴力画面的帖子采取了行动。数百万篇含有仇恨言论、垃圾邮件和恐怖内容的帖子也被删除。

审查者必须签署关于冒犯性材料的弃权文件

内容审查者在开始为Facebook工作时需要签署了一份弃权文件，这基本上是承认他们准备好了查看令人不安的材料。它还旨在保护Facebook免受任何潜在的法律诉讼。

Katz签署的文件写道，仲裁员将接触到“可能冒犯某些人”的材料，包括色情图片。它补充说，如果工作人员“不想继续”，他们应该“迅速通知”Facebook。

“Facebook有数十亿用户，人们不知道如何正确地使用这个平台，所以有很多色情、兽交和暴力画面，”Katz表示。“Facebook上有很多你可能不希望看到的共享内容。”

Katz在门洛帕克的一个开放式办公室工作，那里有免费的小吃，同事之间也很友好。她说，他们会排队等待审查的帖子，一旦分配好帖子，她需要在几秒钟内作出决定。

如果达不到票据目标，后果自负。Katz说，如果有“一两次”没有达到目标，将会被警告；三次以上，“你可能会被解雇。”Katz说，她从未看到有人被解雇，但工作人员私下里都知道这一点。

“过了一段时间后，你会发现这是一份单调的工作，”她说。“你肯定会对一些照片材料变得不敏感，因为你看得太多了。许多内容趋于再循环。”

不断浮现的邪恶照片

Katz说，有一份特别险恶的照片和视频不断出现在她的队列中。

她说，照片中的两个孩子，看起来大概9岁至12岁，他们面对面站着，腰部以下没有穿衣服，彼此抚摸着。Katz说，很明显，摄像机后面有人在告诉他们该怎么做。

“它会消失，但又会再次出现。一天之中它会多次出现，”她说。“每次的用户位置都不一样，这一次来自巴基斯坦，那一次来自美国。很难找到最初的来源。”

Katz说，当时并没有要求她举报分享这些材料的账户，这一点让她感到“不安”。

“如果使用者的帐号不足三十天，我们会以假帐号之名停用该帐号，”她说。“如果帐号超过30天，我们只需删除内容并继续保持该帐号的活动状态。”

她的经历引发了Facebook在其平台上解决剥削儿童问题的有效性问题。

该公司在2011年与微软签署了一项协议，来使用其PhotoDNA技术，旨在扫描Facebook和Instagram上的所有图像，标记已知的儿童色情内容，并防止其被重新使用。此外，Facebook仲裁员需要接受培训，当他们看到这些内容时，会在内部进行识别。

Facebook在2012年向《纽约邮报》表示，它向美国失踪和受剥削儿童国家中心报告了所有剥削儿童事件。

公司发言人当时说：“我们对上传到Facebook上的儿童色情内容是零容忍的，并且在防止和移除剥削儿童内容方面非常积极。”

Katz说，她不知道2016年是否还会有这样的情况。

她说：“Facebook现在可能有这样的政策，认为你应该举报它，但当时他们没有。”

Facebook拒绝评论Katz的声明与其所宣称的政策之间的差异。

人类视角的细微差别

Katz现在是云计算公司ServiceNow的网络安全分析师，她撰写了一部科幻小说《Apex Five》，灵感来自她在Facebook的工作生涯。她对自己在Facebook上的经历并不持乐观态度，认为这份工作的负面影响远远超过了她保护用户的感觉。

“这项工作需要很多人的眼睛，无论人们怎么说，也不能全部分配给人工智能来完成，”她说。“我们作为人类，存在角度上的细微差别。人工智能可以帮助跟踪来自数十亿用户的所有内容。而人的因素也必须被考虑进去，这样我们才能一直做得很好。”

Katz敦促科技公司做更多的工作，把仲裁作为一种职业而不是短期工作。

“不仅Facebook，一般的社交媒体平台也应该全职聘用内容仲裁员，因为这会提供更多的激励，”她说。“这真的激励我们做好一份出色的工作，让它成为我们想要坚持的东西。”

Facebook发言人说：“我们的全球内容审查团队在帮助为Facebook社区创建安全环境方面发挥了至关重要的作用，这是我们的首要任务。我们认识到这项工作往往是很困难的，因此我们为所有员工提供了健康和心理支持。”

“Facebook上有20多亿用户，所以这是一项非常重要的工作，因此我们最近将现有的4500多人全球社区运营团队，增加了3000人，以审查我们每周收到的数百万份举报。”