虎嗅注：你可能以为科技巨头里的“内容审阅人”是个不错的岗位。或者，人工智能可以大面积使用在内容审查领域。但你错了。

人力仍然是内容审查的第一道防线。而在他们大量看到种族言论、色情图片和视频之后，他们只感到焦虑不安。和硅谷那些手握期权、拿着六位数年薪的科技从业者不同，大量的内容审查员的工作重复而机械，且被认为“技术含量低”。他们往往只是派遣工，在高强度工作下，薪水和待遇却不尽如人意。

本文转载自腾讯科技，编译：明轩。

在上班的第二天，萨拉·卡茨（Sarah Katz）就知道作为Facebook的一名内容审阅人，这份工作是多么的不和谐。她说她看到了反犹太言论，兽交图片，以及男孩和女孩在幕后成人的指导下性接触的视频。

现年27岁的卡茨说，她每天要审阅多达8000个帖子。几乎没有受过如何处理棘手问题培训的卡茨，却签订了一份警告她可能会遇到某些问题的弃权协议。在发现一个特别令人不安的帖子之后，Facebook内容审阅人所采用的应对机制常常是展现出黑色幽默感，或者是坐在椅子上转圈表达同情等等。

卡茨每天在Facebook位于加州门洛帕克的总部上班，可以在公司的咖啡厅享用免费餐。不过她并不是公司的正式员工。她受雇于一家劳务派遣公司，该公司向Facebook提供了数千名劳务派遣员工。

Facebook的正式员工管理着这些劳务派遣员工，并负责召开会议、制定政策等。每小时只能赚24美元的卡茨说，外派员工从事着Facebook“肮脏、繁忙的工作”。她在2016年10月离职，如今受雇于商业软件公司ServiceNow担任信息安全分析师。

决定什么内容能够上线、什么不能上线，是科技产业增长最快的工作之一，或许也是最累人的工作之一。每天，用户上传到视频网站YouTube上的视频内容相当于65年的播放时间。Facebook每天要接收超过100万个可能带有令人反感内容的用户报告。

人力依旧是第一道防线。密歇根大学计算机科学家埃里克-吉尔伯特（Eric Gilbert）表示，虽然Facebook、YouTube和其他一些公司正竞相开发算法和人工智能工具，但此类技术仍需要多年才能替代人力。

截至今年12月底，Facebook的内容审查员数量已从4500人增至7500人。到2018年年底，Facebook计划把处理安全问题的正式员工和劳务派遣员工数量增加一倍以上，达到2万人。

“我对这件事非常认真，”Facebook首席执行官马克·扎克伯格（Mark Zuckerberg）上月曾表示。在去年的总统竞选中，因未能发现俄罗斯特工试图利用这家社交网络平台来影响竞选结果，Facebook饱受外界要求其改进防御能力的谴责。俄罗斯否认对选举有任何干涉行为。

YouTube首席执行官苏珊-沃西基（Susan Wojcicki）在本月表示，因为受众对该视频网站中的一些内容，如貌似危及儿童的内容感到愤怒，该网站将把内容审查团队的数量扩大至1万人以上。

“没人知道内容审查人员的确切数量，但这个数字很可能‘成千上万，’”位于洛杉矶的加州大学信息研究教授、专门从事内容优化研究的萨拉-罗伯茨（Sarah Roberts）说。

包括埃森哲、PRO Unlimited Inc.和SquadRun Inc.等劳务派遣公司负责提供和管理劳务派遣员工。他们被分布在客户企业的公司总部，或在家办公，或在印度和菲律宾的小隔间和呼叫中心上班。这样的安排让科技巨头们保持全职员工和内部人员的精简和灵活，能够快速适应新理念或新需求的变化。劳务派遣公司也要善于在短时间内提供大量的劳务派遣员工。

Facebook早在多年前便已决定依赖于劳务派遣员工来执行公司政策。该公司的高管们认为，与通常获得计算机科学学位、拿着6位数年薪外带股票期权和各种福利的Facebook工程师们所从事的工作相比，此类工作的技术含量相对较低。

用户在网上看到攻击性帖子并对它们进行报告后，这些帖子将排队被内容审阅人进行审查。包括恐怖主义等最严重的问题，将率先得到处理。Facebook的几名前内容审阅人说，他们通常只有几秒钟的时间来决定一篇帖子是否违反了公司的服务条款。不过Facebook的发言人对此回应称，公司并未对内容审阅人需要多长时间审阅帖子设定专门的时间限制。

最近在那里上班的人表示，美国湾区向内容审阅人提供的时薪在13美元至28美元之间，福利则依据各个公司有所差别。通过对20多名从事过此类工作的人调查后发现，这项工作的离职率很高，绝大多数的内容审阅人在工作几个月或一年之后，就会辞职或是结束派遣工作。

Facebook通过PRO Unlimited招聘内容审查劳务派遣工。根据《华尔街日报》获得的一份内部文件显示，根据员工协助计划的安排，他们每年有三次面对面的培训课程。

内容审查员的福利“是我们和我们的团队成员以及我们的劳务派遣公司讨论的内容。需要明确说明，这不仅仅是一种契约关系。这一点对我们非常重要，”帮助负责内容审查工作的Facebook用户研究经理马克·汉德尔（Mark Handel）说。“这些够了吗？我不知道。但内容审查员只会变得越来越重要。”

Facebook的前内容审查员回忆说，他们曾看到过诸如战争受害者被抛腹、溺死、或是童子军参与杀戮的照片。一位Facebook前内容审查员曾处理过把一只猫扔进微波炉的视频。一些劳务派遣员有时会在上班的第一天或第二天就辞职。有的人出去吃午饭会一去不复返。其他人仍然对这项工作感到不安，即使在离职很久之后，还是觉得在情感上得不偿失。

在2016年匿名信息分享应用Whisper开始测试为高中学生设计的一款功能后不久，沙卡-塔法里担任了这家公司的劳务派遣工。他表示，他对审查的信息中出现的一系列强奸参考内容感到震惊。有时，塔法里甚至能看到兽交或是人屠宰狗的照片。“我就像是观看着树林中精神错乱的疯子们的内容一样，他们没有丝毫的道德心或是良知，”他说。

塔法里在Whisper工作期间，几乎没有时间对他看到的内容进行处理，因为公司的经理们监控着劳务派遣工的工作效率。他说，如果经理们发现劳务派遣员工在几分钟都没有任何动作，他们就会通过办公消息工具Slack询问他们为何没有工作。Whisper发言人表示，劳务派遣员工需要与经理们就信息内容是否违反了公司的规定进行沟通。Whisper目前已不再在美国聘请劳务派遣员工。Whisper目前在菲律宾拥有一个内容审查团队，并使用了机器学习技术。

一位曾在谷歌从事色情内容审查的前劳务派遣员工表示，整天审阅色情内容让他都变得麻木了。他说， 与他一起工作的另一位内容审查员因虐童内容所受到的打击最为严重。“最糟糕的是知道了这些发生在人身上的事情，”他说。

Facebook表示，它删除了一些存有亵渎内容的贴子，禁用了一些帐户，并把一些涉嫌犯罪活动的贴子报告给了执法机构、国家失踪和受剥削儿童中心和其他一些部门。该公司发言人表示，公司为所有审查内容的员工提供咨询、弹性训练和其他形式的心理支持。

YouTube发言人则表示，“我们努力与有良好记录的劳务派遣公司合作，我们为那些在工作过程中可能会遇到令人沮丧的内容的人提供健康资源。”

两名在微软从事内容审查工作的员工声称，看到性虐待和其他材料是伤害他们，该公司未能提供安全的工作场所和支持。他们说，他们会定期审查涉及对儿童和成人性侵的资料。在华盛顿州一家法院提起的民事诉讼中，两名微软员工表示他们患有失眠、焦虑和创伤后应激障碍。微软员工亨利·索托（Henry Soto）称，他发现有时很难靠近电脑或自己的儿子。

上述两名微软员工都向公司请了病假。他们正在寻求获得过去和未来的情绪困扰、精神健康治疗，以及薪酬损失补偿。本案已于今年10月开始审判。

虽然Facebook和其他科技公司比以往任何时候都要花更多钱来管理他们的网站，但没几家企业愿意把劳务派遣员工变成正式雇员。一些内容审查员表示，管理人员已经告诉他们，基于他们的决定得出的数据，将被用于培训算法，最终可能会替代人力。

28岁的安德鲁·吉斯（Andrew Giese）表示，在辞去连锁店Trader Joe's Co.的全职工作后，他曾担任苹果内容审查员一年时间。作为一名劳务派遣员工，他的职责是筛选用户在iTunes上发布的评论。在合同期满后，苹果经理告诉他说，休假三个月后再回来。但是苹果后来并没有提供这样的岗位。后来，吉斯又重回Trader Joe's Co.工作。

苹果发言人对此表示，公司绝大多数的内容审查员都是全职工，公司的劳务派遣员工已被明确告知，他们的工作是临时性的。劳务派遣公司如今还在接触吉斯，劝说他到大型科技公司担任内容审查员。吉斯表示，如果能够提供一份正式工的工作他就答应。“我决不能再次抛弃一份全职工作，”他说。