译 | 阑夕

每个依赖UGC模式的App或者网站——例如Facebook、YouTube、Twitter、Instagram、Pinterest等等——都会存在这种隐性的工作，否则整个网站的业务都无法运作起来。审查者曾经一度是自愿性质的工作，那些融入了社区之中的人们自发的想要维护这里。

但是社交媒体们成长的同时，审查制度也进化了。「商业性内容审核」，这是加州大学的学者Sarah T. Roberts为新的审查制度下的定义，一种要求人们以更快的速度审查大量照片、视频和文字的有偿的工作。

自从有一次看到中西部某一家小公司针对内容审核开展外包工作的剪报之后，Roberts在过去十年里一直在研究内容过滤的工作。

「2010年，这个话题还根本没有进入人们的视野。」Roberts说，「我问遍了身边的所有朋友和教授，你们认不认识什么人是以这个工作为职业的？每个人第一反应都是，从来没听过。然后他们第二反应就是，这事不是电脑在做？当然不是，2017年不是，2010年就更不是了。」

然而这些审查者们无论是在Facebook或者Twitter上都没有任何存在痕迹。单个个体也许可以发言抱怨，但是这个审核机构总体上是面目模糊的。直到最近，在类似Roberts这样的学者、记者如Adrian Chen、和体制内的工作人员如Rochelle LaPlante等人的帮助下，内容审查工作中这些「看不见的人」才变得广为人知。

最近几个月，人类在组织和过滤互联网信息流中扮演的角色开始受到越来越多的关注。企业们希望将儿童色情、极端信息、虚假内容、恶作剧和各种令人讨厌的帖子关闭掉，同时留下其它类型的信息继续保持流通。

企业必须用信息的流通性来保障自己的经营模式：内容可以带来关注和流量。他们依靠注意力经济变得越来越富有。那么，人类与此同时产生的内容污染又要怎么办呢？那些令人反感的、恶心的、色情的、非法的或者各种其它的东西怎么办？

唯一可以确定的就是：计算机算法没办法把这些东西全部解决掉。Roberts看来，「2017年，各平台公司针对这一点发表的各类声明里，没人说我们会用更多的计算资源来解决这个问题，大家都说的是我们会投入更多人力来解决这个问题。」

为了展开针对性的调研，Roberts在加利福尼亚大学洛杉矶分校，也是加州山火的正中心，举办了业界首次内容审查的研讨会。

在Roberts看来，审查制度不仅仅是关于这些网站平台的成本结构。更重要的是，这个工作会触及网络服务的核心。「它到底会互联网的本质有什么影响？」她说，「当人们大面积的参与到我们称之为互联网的这个东西之中，它到底会让我们付出什么代价？」

有一个讨论小组直接探讨了这个代价问题。它将两个曾经担任过内容审查者的人聚在了一起：Rasalyn Bowden曾经担任MySpace的内容审查员及培训师，Rochelle LaPlante在Amazon Mechanical Turk工作并且联合创办了一个针对AMT员工的网站MTurkCrowd.com。他们两人都接受了Roberts以及南加州大学Safiya Noble的访问。

>Bowden讲述了早年间MySpace平台正流行的时候，公司突然被违规图片淹没的情形——至少是在他们看来违规了。当时其实很难定义到底哪些图片是违规的，因为当时还没有制定这些规则。在Bowden的协助下，这些规则被建立了起来，然后用一个记事本记录了下来。

「我昨天翻了翻，有个问题是问，如果穿着牙线那么细的带子组成的比基尼，那到底还算不算裸体？牙线那么细或者像意大利面那种粗细到底行不行？到底什么样算不是裸体的？我们大晚上在飞机上为这些问题争论了起来。」Bowden说，「如果她的屁股真的很大，那她就不应该穿这种细带子的。那么我们是不是应该把这个人删掉，然后留下那些屁股小一些的女生？这就是我们的决策过程。就像我们一直以来的工作模式。」

Bowden说她的团队里有很多奇怪的人，他们都愿意一整晚盯着这些奇怪的令人不安的东西。「队里有个女巫，一个吸血鬼，一个白人至上主义者，还有些正常人。我的团队里有各种不同类型的人。」而Bowden是个黑人，「我们总是说，那么用你那个白人至上的标准看看，这个是不是白人至上的言论？」

00年代中期的时候，社交媒体依赖着UGC的模式持续膨胀发展着，越来越多的公司需要内容审查人员。Roberts将审查的演化作为企业实践的一部分进行追踪，并且特别关注了其中劳动分配的问题。在硅谷的总部里，很少有全职员工在从事这类别的工作。相反他们都选择了外包商，外包商们可能会在企业里办公，但通常是在一些别的地方。总体来说，内容审查者们都被排除在了企业核心机构之外。他们可能身在爱荷华州或者是印度（现在来说，多数都在菲律宾）。

「这些员工被企业们以结构性的方式排除在主体之外，由企业认可的承包商们以按量计费的方式雇佣他们，然后他们在一种劳务外包的形式下工作。」Roberts这样写道，「于此同时，这些承包商也会利用一些网络平台来发布按量计费的工作，例如Amazon Mechanical Turk或是Upwork。这样社交媒体平台、业务外包公司、以及完成按量计费业务的雇员之间的关系就一目了然了。」

这些明显带有距离感的步骤，把科技公司推离了责任范围，却转而让审查者们面对这一切。

例如在AMT上工作的LaPlante，她手中有一批时间灵活的廉价劳动力名单。当她接到任务时，她必须遵守一系列的工作规定，但是她却完全不知道发布任务的公司会如何处理她创造出来的数据。

不过，令LaPlante最为在意的是这些人的劳动报酬问题。他们的工作以审核量来计费，有时候单价会低到每张图片0.02美元，就算好一点的时候也只有每篇文章0.15美元。除此之外，科技公司们还可以拒绝接受这个审查员的工作结果，那么他在这段时间的工作不仅不会得到报酬，他在AMT上的评分还会下降。

这份工作是当今互联网经济里残酷而不可或缺的一部分。它还可以给计算机的深度学习提供必要的训练数据。然而从事这项事业的劳工们却只能幸运的拿着最低工资，与此同时还要以飞快的速度工作才能得以生存。

正如你预想的一样，浏览这些暴力、色情和令人不安的内容给以此为生的人们留下了不可磨灭的心理影响。

「当我从MySpace离开的时候，我大概有3年的时间不肯和人握手，因为我觉得人们都很恶心。我无法触碰别人。」Bowden说，「世界上最普通的人也都是他妈的怪胎。我从那里出来的时候对人性感到厌恶。我的同僚们，大多数也和我有一样的感觉。我们都对人性留下了可怕的观感。」

当我问她，十年过去了，你有没有对人性恢复一些信心的时候，她说没有。「但是我可以假装我有信心了。这种信念是必须的。」她说，「也没什么不好。一旦你接受了人类的劣根性，你就更容易记住不要去碰某些东西。」

LaPlante也强调说，做内容审核的人们不会因为这些恶心的工作内容去寻求心理咨询师的帮助。他们一般都自己处理这些心理问题，或者，在同僚们那里寻找一些心理支持。

「当你的报酬只有一张图片2美分的时候，你是不可能去找100美元一个小时的咨询师的。」LaPlante说。

从乐观的角度来说，有些科技公司已经开始注意到这些情况了。例如Facebook，他们这次就派了一个小组来参加这次的审查研讨会。然而像Twitter和Snap则没有来参会。

Facebook在内容审查方面雇佣的人数超过10000人。他们的高管对此事看起来有着非常清晰的思路。这周，Facebook的首席安全官Alex Stamos在Twitter的一个在线发言上说，在解决「基本问题」上「没有神奇的方案」。「你认为看门人可以决定在线言论令人接受的门槛界限吗？」他说，「如果是，那界限到底在哪里？」

这是个好问题。但是内容审查者们也知道这个问题。他们在房间里讨论试图定义哪些是得体的，哪些是淫秽的。这几千人正在扮演警察的工作，去划定「令人可以接受的在线言论」的界限。然后原则上来说，他们不被支持，工资很低，只能独自处理工作留下的情绪损伤，与此同时他们为之卖命的公司正成为全世界市值最高的公司。

「每次我看到大的科技公司招聘人员的声明时，我都要问几个问题：招了谁？在哪里？在什么条件下工作？」Roberts这样对我说。