正在阅读:

厌女和种族歧视泛滥,Facebook能应对吗?

扫一扫下载界面新闻APP

厌女和种族歧视泛滥,Facebook能应对吗?

如何在确保言论自由的前提下,过滤、删除不恰当的内容?Facebook还有很长的一段路要走。

Facebook内容审查人员告诉《卫报》其工作变得艰难且复杂。 图片:Alamy

Facebook数周来一直霸占丑闻版头条。上个月,一泰国男子在Facebook上直播杀死11岁女儿后自尽的全过程。在美国克利夫兰,一男子在Facebook上直播了自己射杀一位74岁陌生老人的整个凶案。

民众指责Facebook成了厌女者和种族歧视者的聚集地,原因在于网站上假新闻、威胁评论、粗俗言论和恶趣味内容泛滥。

近20亿的Facebook用户及各界评论家都在问:Facebook是如何走到今天这一步的?Facebook又是如何在维持信息自由度不受损的同时保障公共利益?

Facebook由于平台暴力内容正在遭受审查。 图片:smh.com.au

以上问题在Facebook的“节制/Moderation”文件中能找到部分答案。《卫报》披露出这份文件,详述了网站上哪些为违禁内容,哪些为合法内容,以及内容监管者所面临的挑战难度有多大。监管者曾经公开表示其工作变得困难且复杂。

没人能料想到,由一群哈佛大学生在2004年2月建立,最初用来联系同学的Facebook,如今成长为规模庞大、全球性的社交网站。

Facebook的泡沫从未破灭,它一直在成长,现在仍是如此。即便在Facebook飞速扩张期间,Facebook之父马克·扎克伯格(Mark Zuckerberg),也一直秉持简单理念——“不忘初心”。在2017年2月的公开演讲中,扎克伯格强调Facebook的核心理念是“拉近人与人间的距离、建设全球社区”。

在泄露的文件中,Facebook公司表示想通过这些举措来培养一个“人人都在尊重他人权利的基础上,公开讨论问题、自由发表观点”的环境。

“成千上万的人们聚集在FB上分享个人重要观点,但有时这些讨论话题、博文内容富有争议。我们相信这些网上对话反映了人们线下生活的思想和观点的交流,譬如在家中、在公司、咖啡馆和教室内的谈话。”

到目前为止,文件内容还是值得称颂的。绝大部分Facebook用户都不会想要恶意利用平台的开放性。但是有些人这么做了,他们是躲在普通用户中的恐怖分子和虐童者。

有评论认为Facebook已经转而成为世界上最大的出版社和广播台之一,甚至有人控诉称FB不知不觉通过泛滥的假新闻左右美国总统大选。

扎克伯克13年前不会想象到如今的局面,但这是他当前必须处理的现实。他不仅要应付媒体批评的喧嚣(有些出于商业利益驱使),还要处理来自美国、欧洲、英国的政客们的质疑:Facebook当前现状是不可持续的。

政客们希望Facebook能够"自清门户,却并不相信当前的自我监管策略能够奏效。目前FB主要靠用户举报不良行为,及平台内容监管者决定发布内容是否违规、应当予以保留还是删除。

Facebook 内容监管者指导方针的部分内容。图片:《卫报》

Facebook 是一个全球社区,成千上万的人在这里互相联络。他们当中每一个都代表着独特的观点、理想、文化价值观。出于维护多元性的考虑,我们努力培养这样的平台环境:每个人都在尊重他人权利的前提下,公开讨论问题、自由表达观点。

成千上万的人们聚集在FB上分享个人重要观点,但有时这些讨论话题、博文内容富有争议。我们相信这些网上对话映射了人们线下生活的思想和观点的交流,譬如在家中、在公司、咖啡馆和教室内的谈话。

作为一个由朋友、家庭、同事、同学构成的信任社区,Facebook平台高度自律。平台用户能够以身践行举报有问题的,冒犯性的内容。为了平衡这一全球社区的需求和利益,我们要求用户尊重且遵守平台标准。

Facebook列举了“节制/moderation”条例中希望用户遵守的具体细节,但是他们不应该了解一下内容监管者是如何破坏自由公开的社区规范的吗?

去年,Facebook短暂禁用了澳大利亚左倾网站New Matilda诸多关注者的账号,原因是New Matilda网站编辑克里斯·格雷厄姆(Chris Graham)在Facebook上发了条状态纪念国际妇女节。文字配图是一名袒胸露乳的土著澳大利亚女性。Facebook方通知格雷厄姆有用户投诉配图不合规,说“平台内部分用户可能对此类内容较为敏感”。

然而,据《卫报》在Facebook上观察,平台上有更多出格图片未被查禁,其中一张图是一名上身赤裸的女人坐在勃起的巨型阴茎上。很多评论家认为,网站要想实现自我管制,前方的路还很长,他们希望网站如其他主流媒体公司一样,受外部监管。

2016年,非裔美国人掌管的最大的媒体资源——美国国家报纸出版商协会(NNPA)也要求Facebook 平台接受管制,还批评了Facebook公司缺乏透明度。此外,德国和英国政客曾表示,倘若FB平台在极端内容上处理不当,则应当缴纳罚金。美国国内也有很多声音呼吁FB公开内容监管决策,力求达到透明化。

但FB公司仍坚持自己本质上是一家科技公司而非媒体。然而问题是,Facebook如何做到既能保障大众言论公开,又限制意图滥用公开言论的人?并且如何清晰界定“滥用”行为呢?

Facebook的部分问题潜藏在公司的个性文化之中:始终坚持“言论公开”的原则。

但是在英国国会出台的网络犯罪报告中,议员们指出“社交媒体公司对于投入审查和删除平台不当内容的员工数量和资源量级高度保密”,并且强烈谴责这种缺乏透明度的行为。

这正是这些经过删减后才公布的文件至关重要的原因。数以百万计的Facebook用户有机会阅读、评价这些规章。而这些文件是对该公司想法,及内容监管者所面临挑战的深刻洞见。文件内Facebook的关注值得注意:他们认为网站完全免除极端内容是“不可能的目标”,并且Facebook无法阻止恐怖分子使用该平台。

这些监管压力,此前已有报道,但是据《卫报》线人透露,Facebook并没有什么改变。因为铁打的营盘,流水的员工——定期审阅这些令人心烦的内容而精疲力竭:斩首画面、动物虐待乃至食人场景。

英国有国会议员指出:Facebook只有在面对媒体抗议时才会删除特定类型的内容。比如含有砍头画面、性侵幼童画面及刺杀画面的视频,只有在记者要求删除时才会被删除,即使当时用户已经标记投诉了这些不当内容。

Facebook公司正在采取行动。该公司表示正在通过软件来阻止含有性侵幼童、恐怖主义等不当画面的内容在网站上发布,还将通过发展人工智能技术,以迅速移除已经发布的不当内容。

扎克伯格承认Facebook在内容监管上有待进步。图片:Stephen Lam/Reuters

除此以外,Facebook公司雇佣了三千多人审查不当内容。然而,FB高管、政策负责人西蒙·米尔纳(Simon Milner)承认这并不是问题的解决办法。“雇佣的员工数量和工作效率间没有必然的线性关系”。

所以,Facebook当前的行为相当于检修一辆正在行驶的车辆,车正在加速,而它却没有合适的检修工具。

这些文件引发了大众对相关问题合法性的疑问:Facebook平台如何界定违禁内容?处理速度又如何?但同样重要的是,文件引起了大众质疑Facebook仍然准许发布的内容:其中也有被认为是带有残忍、侮辱性、攻击性、性别歧视和种族歧视的内容。

Facebook高管们承认监管的确存在“灰色地带”,并且扎克伯格也承认“监管工作正在进行中,我们正致力于学习和改善相关措施,严肃认真地担负起自己应尽的责任……必须找到更好的解决方法。”

如何找到最好解决办法?今日被曝光的Facebook监管文件必将在社会上引发一场精彩的观点博弈。

(翻译:黄文砚)

……………………………………

欢迎你来微博找我们,请点这里

也可以关注我们的微信公众号“界面文化”【ID:BooksAndFun】

来源:卫报

原标题:Has Facebook become a forum for misogyny and racism?

本文为转载内容,授权事宜请联系原著作权人。

Facebook

5.2k
  • 美股高开高走,标普500指数、道指均再创历史收盘新高
  • 美股收评:三大指数集体收涨,纽约社区银行创2009年9月份以来新低

评论

暂无评论哦,快来评价一下吧!

下载界面新闻

微信公众号

微博

厌女和种族歧视泛滥,Facebook能应对吗?

如何在确保言论自由的前提下,过滤、删除不恰当的内容?Facebook还有很长的一段路要走。

Facebook内容审查人员告诉《卫报》其工作变得艰难且复杂。 图片:Alamy

Facebook数周来一直霸占丑闻版头条。上个月,一泰国男子在Facebook上直播杀死11岁女儿后自尽的全过程。在美国克利夫兰,一男子在Facebook上直播了自己射杀一位74岁陌生老人的整个凶案。

民众指责Facebook成了厌女者和种族歧视者的聚集地,原因在于网站上假新闻、威胁评论、粗俗言论和恶趣味内容泛滥。

近20亿的Facebook用户及各界评论家都在问:Facebook是如何走到今天这一步的?Facebook又是如何在维持信息自由度不受损的同时保障公共利益?

Facebook由于平台暴力内容正在遭受审查。 图片:smh.com.au

以上问题在Facebook的“节制/Moderation”文件中能找到部分答案。《卫报》披露出这份文件,详述了网站上哪些为违禁内容,哪些为合法内容,以及内容监管者所面临的挑战难度有多大。监管者曾经公开表示其工作变得困难且复杂。

没人能料想到,由一群哈佛大学生在2004年2月建立,最初用来联系同学的Facebook,如今成长为规模庞大、全球性的社交网站。

Facebook的泡沫从未破灭,它一直在成长,现在仍是如此。即便在Facebook飞速扩张期间,Facebook之父马克·扎克伯格(Mark Zuckerberg),也一直秉持简单理念——“不忘初心”。在2017年2月的公开演讲中,扎克伯格强调Facebook的核心理念是“拉近人与人间的距离、建设全球社区”。

在泄露的文件中,Facebook公司表示想通过这些举措来培养一个“人人都在尊重他人权利的基础上,公开讨论问题、自由发表观点”的环境。

“成千上万的人们聚集在FB上分享个人重要观点,但有时这些讨论话题、博文内容富有争议。我们相信这些网上对话反映了人们线下生活的思想和观点的交流,譬如在家中、在公司、咖啡馆和教室内的谈话。”

到目前为止,文件内容还是值得称颂的。绝大部分Facebook用户都不会想要恶意利用平台的开放性。但是有些人这么做了,他们是躲在普通用户中的恐怖分子和虐童者。

有评论认为Facebook已经转而成为世界上最大的出版社和广播台之一,甚至有人控诉称FB不知不觉通过泛滥的假新闻左右美国总统大选。

扎克伯克13年前不会想象到如今的局面,但这是他当前必须处理的现实。他不仅要应付媒体批评的喧嚣(有些出于商业利益驱使),还要处理来自美国、欧洲、英国的政客们的质疑:Facebook当前现状是不可持续的。

政客们希望Facebook能够"自清门户,却并不相信当前的自我监管策略能够奏效。目前FB主要靠用户举报不良行为,及平台内容监管者决定发布内容是否违规、应当予以保留还是删除。

Facebook 内容监管者指导方针的部分内容。图片:《卫报》

Facebook 是一个全球社区,成千上万的人在这里互相联络。他们当中每一个都代表着独特的观点、理想、文化价值观。出于维护多元性的考虑,我们努力培养这样的平台环境:每个人都在尊重他人权利的前提下,公开讨论问题、自由表达观点。

成千上万的人们聚集在FB上分享个人重要观点,但有时这些讨论话题、博文内容富有争议。我们相信这些网上对话映射了人们线下生活的思想和观点的交流,譬如在家中、在公司、咖啡馆和教室内的谈话。

作为一个由朋友、家庭、同事、同学构成的信任社区,Facebook平台高度自律。平台用户能够以身践行举报有问题的,冒犯性的内容。为了平衡这一全球社区的需求和利益,我们要求用户尊重且遵守平台标准。

Facebook列举了“节制/moderation”条例中希望用户遵守的具体细节,但是他们不应该了解一下内容监管者是如何破坏自由公开的社区规范的吗?

去年,Facebook短暂禁用了澳大利亚左倾网站New Matilda诸多关注者的账号,原因是New Matilda网站编辑克里斯·格雷厄姆(Chris Graham)在Facebook上发了条状态纪念国际妇女节。文字配图是一名袒胸露乳的土著澳大利亚女性。Facebook方通知格雷厄姆有用户投诉配图不合规,说“平台内部分用户可能对此类内容较为敏感”。

然而,据《卫报》在Facebook上观察,平台上有更多出格图片未被查禁,其中一张图是一名上身赤裸的女人坐在勃起的巨型阴茎上。很多评论家认为,网站要想实现自我管制,前方的路还很长,他们希望网站如其他主流媒体公司一样,受外部监管。

2016年,非裔美国人掌管的最大的媒体资源——美国国家报纸出版商协会(NNPA)也要求Facebook 平台接受管制,还批评了Facebook公司缺乏透明度。此外,德国和英国政客曾表示,倘若FB平台在极端内容上处理不当,则应当缴纳罚金。美国国内也有很多声音呼吁FB公开内容监管决策,力求达到透明化。

但FB公司仍坚持自己本质上是一家科技公司而非媒体。然而问题是,Facebook如何做到既能保障大众言论公开,又限制意图滥用公开言论的人?并且如何清晰界定“滥用”行为呢?

Facebook的部分问题潜藏在公司的个性文化之中:始终坚持“言论公开”的原则。

但是在英国国会出台的网络犯罪报告中,议员们指出“社交媒体公司对于投入审查和删除平台不当内容的员工数量和资源量级高度保密”,并且强烈谴责这种缺乏透明度的行为。

这正是这些经过删减后才公布的文件至关重要的原因。数以百万计的Facebook用户有机会阅读、评价这些规章。而这些文件是对该公司想法,及内容监管者所面临挑战的深刻洞见。文件内Facebook的关注值得注意:他们认为网站完全免除极端内容是“不可能的目标”,并且Facebook无法阻止恐怖分子使用该平台。

这些监管压力,此前已有报道,但是据《卫报》线人透露,Facebook并没有什么改变。因为铁打的营盘,流水的员工——定期审阅这些令人心烦的内容而精疲力竭:斩首画面、动物虐待乃至食人场景。

英国有国会议员指出:Facebook只有在面对媒体抗议时才会删除特定类型的内容。比如含有砍头画面、性侵幼童画面及刺杀画面的视频,只有在记者要求删除时才会被删除,即使当时用户已经标记投诉了这些不当内容。

Facebook公司正在采取行动。该公司表示正在通过软件来阻止含有性侵幼童、恐怖主义等不当画面的内容在网站上发布,还将通过发展人工智能技术,以迅速移除已经发布的不当内容。

扎克伯格承认Facebook在内容监管上有待进步。图片:Stephen Lam/Reuters

除此以外,Facebook公司雇佣了三千多人审查不当内容。然而,FB高管、政策负责人西蒙·米尔纳(Simon Milner)承认这并不是问题的解决办法。“雇佣的员工数量和工作效率间没有必然的线性关系”。

所以,Facebook当前的行为相当于检修一辆正在行驶的车辆,车正在加速,而它却没有合适的检修工具。

这些文件引发了大众对相关问题合法性的疑问:Facebook平台如何界定违禁内容?处理速度又如何?但同样重要的是,文件引起了大众质疑Facebook仍然准许发布的内容:其中也有被认为是带有残忍、侮辱性、攻击性、性别歧视和种族歧视的内容。

Facebook高管们承认监管的确存在“灰色地带”,并且扎克伯格也承认“监管工作正在进行中,我们正致力于学习和改善相关措施,严肃认真地担负起自己应尽的责任……必须找到更好的解决方法。”

如何找到最好解决办法?今日被曝光的Facebook监管文件必将在社会上引发一场精彩的观点博弈。

(翻译:黄文砚)

……………………………………

欢迎你来微博找我们,请点这里

也可以关注我们的微信公众号“界面文化”【ID:BooksAndFun】

来源:卫报

原标题:Has Facebook become a forum for misogyny and racism?

本文为转载内容,授权事宜请联系原著作权人。