我在大厂做“鉴黄师”

本文来自微信公众号：显微故事（ID：xianweigushi），作者：常宁宁、 蜜斯桃、李海草，编辑：万芳，题图来自视觉中国

有一群人，他们的工作就是屏蔽你在网络上无法看到的内容。

他们就是“鉴黄师”，也叫网络审核员。

许多人都以为鉴黄师很轻松、很爽，每天只需要看平台更新的内容即可。但实际上，鉴黄师看到这些问题内容时，他们能做的只有通过、删除。

当一个人被无数次暴露在血腥、黄色、谩骂的环境下，心态逐渐失衡。殊不知，这些负责清扫网络垃圾信息的人，也是抑郁症高发的群体。

他们不仅需要996加班、工资低，还没有人能够保障他们的心理健康。

曾有部讲述Facebook审核员的电影《网络审查员》（the cleaners），片中一位审查员，生前是负责审查自残视频，看过了数不清的自虐视频后，在家上吊自杀了。

本期显微故事讲述的是一群“鉴黄师”，他们之中：

有的人是海归硕士，抱着职业梦想进入今日头条成为“审核员”，最终却因升职困难、工作压抑，降薪去了一家创业公司；有的人曾一天看4000多条黄暴信息，深夜给领导打电话哭着要辞职；有的人曾是微博审核员，负责给明星控制负面舆论、但自己也被网暴，最后转行成了心理咨询师；还有的人是网文平台审核员，除了文字，还要处理用户千奇百怪地、逃避审核机制的黄暴信息。

以下是关于他们的真实故事：

干满一年就算资深员工，月薪5000元、无法加薪、难以跳槽

小鹿  前今日头条用户运营  25岁

今年，我接受了降薪、加班的新工作，就为了逃离“内容审核员”的工作。

在互联网公司，内容审核、电话销售，被称为两个最没前途的岗位。一旦你选择了，一手好牌就打坏了。

2017年，我从英国某大学研究生毕业，加入了一个互联网公司做运营。这家公司是某知名大厂，校招时十分“卡学历”，没有985背景很难走到最后一关面试。

我所在的组里有十多个实习生，其中本科都毕业自复旦、上海交大、武大等985院校，还有很多有海外留学背景的海归硕士。

我们有两个团队：初审的团队（由二线城市子公司、外包公司承包）；还有就是运营团队，负责一线城市和复审，就是我所在的团队。

复审团队会把初审团队评定为“安全”的内容，人工打上“优”、“良”、“一般”的标签，不同的标签决定内容的曝光推荐级别，直接影响内容数据。

按公司规定，用户上传的内容要在2小时内审核完，每天要完成全部当日新增内容审核。

为了保证内容审核“日清”，初审团队采用“三班倒”，这样24小时都有人审核。他们的KPI就是每天审了多少条、准确率多少。

第一次听见这个KPI时，我惊讶了，这完全是工具人啊！

复审则轻松得多。但主管为了让我们提高效率，让程序员写了“警报装置”，只要有超时没审的内容，系统自动报警。

通常，我们吃个午饭回来，办公室里就警报声响成一片。

我们常自嘲是“人工智能”里的“人工”，一旦出现了审核纰漏，我们成了“人工智障”。

这份工作看着简单，做起来也很简单。但是留不住人；而且很消耗人。

纪录片《网络审查员》剧照

我们也常和初审团队有交流。

对他们来说，能在公司做1年就是资深员工了。除了工作机械外，他们还要处理更多黄色、暴力、辱骂的内容，对精神伤害极大。

初审团队的薪资在每个月5000元左右，基本也没有更高的涨薪空间。

这份工作也不能给履历带来多大的价值，更不要想着跳槽了，就这么成了互联网“炮灰”。

我的工作也不过是训练机器审核，提高准确率。公司内部计划在未来用机器审核取代人工审核，每次开会，程序组都会量化机器训练的进度。

每次我看到那些机器审核准确度数据上涨时，都觉得我未来的职业道路正在被堵住。

去年tiktok的审核团队被大量裁员，让我感受到了危机。

被美国封杀后，国内的小语种审核团队大规模被优化。这些人当时都是名校娇子，做了一年审核工作，原有的语言优势反而被弱化，裁员后只能继续找审核相关的工作。

35岁职场危机就在眼前。

纪录片《网络审查员》剧照

当我认识到这一点后，我决定离职。

当时我的薪资是14k左右，但我再去面试其他岗位时，名校+大厂的背景不好用了。心直口快的面试官会直接告诉我，“能力不足支撑岗位”。

我不得不降低薪水，在一家小创业公司找到需要加班、更累人的工作。但我不后悔，至少这份工作里，我不再是没有感情的审核机器。

深夜看黄图就崩溃大哭，公司为了“哄”大家设立“发泄基金”

小Z 女 27岁 某平台内容运营主管

我们平台的用户大多在下沉市场，大部分是文化程度不高的中老年人。

近年来以老年人为受害者的诈骗案频发，而我们平台每天有几十万老年人在此获取内容并分享。

这也要求我们在内容的管控上要更严格，担心不良内容导致用户财产受损。

我是内容主管，但管理审核团队、协助技术团队提高内容质量也是我工作的一部分。

我们团队有15个人，大部分是97后。审核员里没有”前浪"，这份工作枯燥无味、重复性高，薪水也低，几乎没人能坚持过一年。

每次有人离职，我们就去学校招实习生，或者刚毕业的新人补位——这活没啥技术门槛。

我们平台每天更新数万条内容，文字、视频、图片都有。有些是用户上传的、我们内部爬虫抓取的，涉及需要审核的内容有数千条。

我们需要人工打上“屏蔽”、“隐藏”、“推荐”的标签，并针对里面广告词手动删除。

那些擦边球内容（涉及暴力、金钱、性、夸大宣传），往往能吸引流量，换来个人收益，所以经常会遇到有团队（俗称“做号公司”）换各种账号，批量上传黄暴内容。

文字最好处理。我们内部做了”敏感词库“，负面词汇会直接变成“xx”显示。

容易踩线的词一旦出现在标题、文章中，系统会自动屏蔽，需要审核员复审没问题后才能放出。

这是我经常会接触到的图片，不算黄暴，但每天都要看到好几张

为了逃避审核，有的人会把小黄文生成图片上传，或者在敏感词前加字母、数字等防止被识别到。

对小公司来说，图片和视频审核比较困难。我曾遇到过一批视频，在播放的最后5秒里出现虚假广告，就让技术增加了“去5秒”功能。

魔高一尺，道高一丈。

没几天这个用户就把视频帧乱序后加上广告（广告出现时间随机）。此外，还夹杂了不少黄色内容，最后不得不继续用人工审核。

这样的工作，经常会让审核员自我怀疑，觉得接受那么多年教育就是为了做这个工作吗？这样的工作到底对我有什么价值？

我最怕深夜接到电话。大多夜里的电话都是我下属情绪崩溃、闹着辞职、甚至觉得人生没意义想要自杀。

这种情绪处理不好可能遇到员工的辞职。

去年我们公司就遇到了这样的事。一名审核员辞职后，公司和她关系很好的女孩子也说说自己因为做这个工作得了抑郁症。

纪录片《网络审查员》剧照

当时那位主管批评对方心理脆弱，结果导致更多审核员离职。一时间，平台上出现过载的负面内容，运营组的人都被临时叫上去分担“审核”工作。

没过几天大家都有些不正常了，每天神神叨叨、消极、觉得工作没意义，甚至说“再要审核，我们就集体离职”。

纪录片《网络审查员》剧照

迫于压力，公司迅速补招审核员，还顺带找了名心理咨询师，并拨款给审核团队用做“发泄基金”。

所以，每当收到深夜崩溃电话时，我都要耐心“哄”他们。

比如说，“我们的工作让老人不会受骗、很有价值”，此外还经常在群里分享用户的好评、增加工作信心、承诺申请更多奖金。

但我何尝不觉得这份工作意义不大？

我内心很矛盾，一方面想挽留他们，毕竟这样我就不用被临时调去一线审核。另一方面，我觉得很自责，我面对一个个原因相信我的年轻人，画了一个又一个“升职加薪”的大饼。

这个饼，可能永远不会实现。

受够每天4000条负面微博，审核员没有技术含量，大部分是应届生

纪霖 26岁 女 前微博内容审核员

我曾经是微博内容审核员，最忙的时候，每天要看4000多条微博。

对内容审核来说，图片内容相对容易审核。通过举报陈述、或者直接判断图片内容是否不雅，就可以进行删除，并对发布者进行相应处罚：禁言或者封号。

我的同事都来自各行各业，有曾在天安门负责治安的城管、也有政法大学的高材生、应届生。

做内容审核最重要的是，情商要高。不仅要懂得维护关系，也要有底线和原则，不能谁求你帮忙都帮。

刚做审核时，每天都能找到很多乐子，能见到很多奇葩的人。

但做久了，接受的负面、黄暴信息多了以后，就越发觉得无聊。这职业根本不需要技术能力，只要机械性的审核、判断就可以。

所以，但凡有点梦想的年轻人都很难持续下去。

这些审核员们大多都是男性，看多黄暴图片真的很容易印象心理状态，让人对平时生活里欲望也没有了。

甚至有段时间，我因为看了太多负面信息，感觉人生压抑。怎么社会上会有这么多骂人的方法、到处都是肮脏、变态的人。

如果我不做审核员，我根本不知道社会上有这么多奇葩的人。

有的人专门卖“原味”，还有些恋足癖、内衣癖，还有人在闲鱼上专门寻找别人的二手内衣，这都是非常普遍的事情。

有时还会遇到些“挂羊头卖狗肉”的钓鱼内容。比如有些人会发自己的自拍，吸引别人问她是否卖“私房”，甚至可以线下销售“自己”。

对于他们来说，无论是微博、闲鱼、还是其他社交渠道，都只是展示和销售自己的方式之一，在哪里都可能遇到。

前段时间，有人曝光潘玮柏、郭富城的妻子实际上是上过“嫁豪门”课程的。

其实通过看他们的微博、微信内容也很容易发现，她们乐于分享自己的照片、生活，吸引明星、土豪给自己发私信。

这种看照片验颜值约妹子的行为，被我们内部称为“选妃”，很多爱慕虚荣的网红就是这么被撩到的。虽然我们不能看用户私信，但还是会在举报内容中看到。

我们公司内部开发了一个程序筛查黄色图片，从属于视频部门的网监部下。视频里包含肉色的几帧会第一时间被被筛选出来。

好笑的是，这种机制会经常筛选出加菲猫的图片——许多加菲猫也是肉色的。这时就需要我们人工判断加菲猫或色情图。

大部分垂直内容是相互独立审核的，比如，有的同事负责服务大V，对明星的举报进行重点维护。

明星出了任何问题，是可以直接找到微博负责人，同时他们也有相应的删帖名额，可以进行热搜降级、评论处理等。

我们所收到的举报信息都是有举报原因的。比如涉政、淫秽色情、垃圾短信、还有各种纠纷等。

甚至有些男人分手后报复前女友，直接在平台上发她的裸照，后台觉得可怜同情，也会帮她删掉的。

这个工作太负能量了，一度让人抑郁。

所以没有做多久我就发现不适合，大概一年后我就辞职，考了心理咨询师资格证，转行做了心理咨询师。

相比屏蔽负面内容，我更愿意从根源上让大家在内心化解掉怨恨和欲望。

语音转文字内容也不能放过，一旦平台出事，我们的工作就都没了

李海草 男 27岁 创业者

2015年，我曾在一家网文平台里做编辑，偶尔也协助做安审。

我们平台开放全网注册，所以免不了有的用户会发布违规内容。大部分违规内容是广告、色情、赌博信息，还有少量血腥暴力内容。

比如“纽约双性恋的姑娘，出来聊一聊？”“我跟继父睡觉，然后要挟他给我买一辆车”……

我们系统会自动拦截、删除明显的违规信息，严重的就封掉用户账号。

如果系统判定网文作者某个字、某句话涉嫌违规，系统会将这部分内容高亮放大。

如果只是个别字句，审核人员会帮助修改。但涉及到剧情、文章架构，需要大幅度修改的，审核人员会打回该章节，让作者修改后重审。

如果文章里有配图，那么每张图片系统都会拦截出来，让审核人员进行判断。虽然是写作类APP，上传图片的用户较少，但还是有些不怀好意的人上传的色情图片。

我第一次看到黄色图片时，就是系统拦截到了好几页全是光溜溜的身体部位。

刚开始看到这种内容我还有点不好意思，但见多了以后，一看到这种图片就反胃。

现在用户逃避审核的方式也很多样化。

有一位用户上传了QQ群聊天截图，其中有段信息是语音转换成文字，转化出来的都是一些语气词，嗯嗯啊啊的，明显是和色情相关的内容。

当时我就很紧张，找领导商议。但领导觉得我神经太敏感，我还是坚持己见，把那张图删掉了。

安审工作看起来简单轻松，但如果走神让不良信息曝光出来，对平台造成的影响可大可小。严重的话，我们连工作都保不住。

但长时间暴露在不良内容下，谁都受不了。我们审核部的同事，平均一天八个小时都要面对这些信息。

日积月累，难免崩溃，我们一位女同事，干了没几个月就去看心理咨询了。

因此，为了减少审核人员的心理负担，内容部门的人每周换着轮岗，一人做一周的内容安全审核工作。

我也专门做过几次，后劲很大，现在再也不想碰了。

本文来自微信公众号：显微故事（ID：xianweigushi），作者：常宁宁、 蜜斯桃、李海草，编辑：万芳