ACM通信

法律与技术

内容调节调制

凯特·克洛尼克著
ACM通信，2021年1月，第64卷第1期，29-31页
10.1145 / 3436247
评论

关于社交网络上言论的争论可能很激烈，但这些平台的治理更像是一座冰山。我们经常看到，决定删除或保留有问题的言论。但这些最终决定只是巨大的、基本上被淹没的技术治理系统的可见一角。

想做某事的冲动是可以理解的人类反应，寻求熟悉的机制来解决新问题也是可以理解的。但是，当前改变社交网络平台如何审查内容的监管提议，并不能解决当今在线言论的问题，就像躺椅不能解决互联网的问题一样《泰坦尼克号》．为了做得更好，围绕在线言论的对话必须仔细、深思熟虑地探索表面之下的内容。

2016年9月，挪威作家托马斯·埃格兰在Facebook上发布了尼克·Ut的著名获奖照片《战争的恐怖》。这张照片描绘了越南战争期间，一个9岁的小女孩在她所在的村庄遭到凝固汽油弹袭击后，赤身裸体地跑在街上尖叫。但在发布后不久，脸书就删除了埃格兰的帖子，理由是它违反了针对未成年人的性剥削照片的社区标准。

埃格兰引用这张照片的历史和政治意义，谴责脸书的审查制度。由于他的名气不大，这张照片被撤下很快成为全球新闻。Facebook遭到了挪威首相的谴责，并在头版发表了一封题为“亲爱的马克·扎克伯格”的信。晚邮报》挪威的主要报纸之一，谴责该网站践踏历史和言论自由。最后，脸书道歉并恢复了埃格兰的帖子。

这一事件对平台和公众来说都是一个转折点。尽管YouTube、Reddit和Facebook等网站长期以来都有限制用户在其平台上发布内容的政策，但这些规定的执行在很大程度上不为公众所知。对于世界各地的许多用户来说，《战争的恐怖》被高调下架是他们第一次面对该网站审查权力的潜在有害影响。这一事件是一个基本的教训，不仅表明此类决策有多么困难，而且表明如果平台做出错误的决定，风险会有多大。

反过来，公众的反弹是Facebook如何运作其政策及其执行的一个转折点。当一个帖子被其他用户标记为要删除时，该帖子将被放入一个队列中，并由人工内容管理员审查，以确定它是否违反了网站的社区标准。这些内容审查员通常是在菲律宾、印度或爱尔兰的场外工作人员，他们每周7天、每天24小时审查呼叫中心的标记内容事件。

《战争恐怖》的照片违反了Facebook关于未成年人裸体的规定，因此可以删除，但这也是一张具有历史和新闻价值的照片，因此是删除的例外。但历史价值或新闻价值是高度语境和文化定义的——对于来自另一种文化的人来说，比如人类内容版主可能很难认识到这一点。它还向许多人介绍了一个不透明、无法问责的世界，即私人社交媒体公司如何管理公众的言论自由权。

自从“战争恐怖”事件以来，我们一直在提醒我们大型科技公司的力量，以及它对依赖其服务说话和互动的用户缺乏问责。从政治广告到暴力极端主义，从数据保护到仇恨言论，社交媒体对一切事物的影响几乎持续不断的争议导致了政府监管的各种尝试——有些比另一些更成功。

在美国，第一修正案阻止了大多数关于隐私和仇恨言论的立法改革。这是因为在美国，隐私通常被理解为“保护个人免受某一特定有害信息的传播，或防止特别侵入性的信息收集”，这使得潜在的“隐私法与第一修正案对言论自由的保护存在紧张关系……”¹在仇恨言论领域，虽然第一修正案没有保护暴力或煽动即将发生的不法行为，但它确实保护了对某些人来说可能具有攻击性和应受谴责的言论。

因此，改革的动力大多来自欧洲。没有了第一修正案的负担，欧洲司法管辖区已经能够制定广泛的隐私法，如《通用数据保护条例》(GDPR)，以及针对各州的反仇恨言论法，如德国的NETZDG法。

第一修正案排除了对仇恨言论或数据传播的全面禁令，但这并没有减少美国的强烈抗议。政界人士和活动人士主要把努力集中在两个目标上。其中之一是改革《通信体面法》(Communications Decency Act)第230条，这是一项基础性法律，旨在防止社交媒体平台承担民事责任，避免对诽谤等通信侵权行为提起诉讼。另一种是利用反垄断法拆分科技公司，或至少控制科技公司。但是，对改革的热情并没有与对细节的热情相匹配。到目前为止，这些建议都没有充分解决平台政策或其执行的技术现实——这是在修补这些强大的民主和言论工具之前必须采取的第一步。

在这些努力的背后，是一个在过去五年中获得了极大支持的主张:社交媒体公司以一种政治偏见的方式监管言论。这样的指责来自双方，但它们往往忽略了保持或删除内容和账户背后的规则和流程的关键事实，严重误解了大规模商业内容审核的技术工作。

例如，2017年秋天，当女演员罗斯·麦高恩的推特账户在奥斯卡颁奖典礼开始时被暂停时，左翼活动人士勃然大怒# MeToo运动。麦高恩发布了鲍勃·韦恩斯坦(Bob Weinstein)一封电子邮件的截屏，意在表明他意识到哥哥哈维·韦恩斯坦(Harvey Weinstein)犯下的性侵行为。当麦高恩在Instagram上发布她被推特停职的通知时，配文是“推特把我停职了。有强大的力量在起作用。对她被停职的叙述立即变成了一个关于社交媒体之锤被不公平地用在向权力说出真相的女性身上的故事，以及对另类右翼人士的声音给予特权的故事。“游戏被操纵了，”记者查克·温迪格写道，“看到了@rosemcgowan被推特封号，你就不用问游戏是为谁操纵的了。”

对于人类来说，看到一系列事件发生并假定因果关系甚至邪恶意图是一种常见的谬论。但对这些事件相关事件的更深入研究，会为这些叙述增添细微差别。在麦高恩被停职的案件中，她最初截屏的鲍勃·韦恩斯坦的电子邮件中还包括他的私人电话号码，这违反了推特禁止分享他人个人识别信息(也称为doxing)的规定。具有讽刺意味的是，这项政策是女权主义社区多年抗议的结果，她们中的许多人都是网络施暴者和喷子的受害者，这些人把她们的家庭地址或电话号码贴在网上，以鼓励跟踪或骚扰。

麦高恩的推特显然不是在呼吁骚扰或虐待，但它显然也违反了政策的字面意思——她的严厉惩罚、停职，不幸的是，这是女权主义者和家庭暴力倡导者长期以来呼吁的，作为对违反政策的补救措施。但公众中很少有人知道这条规则的错综复杂，更少人知道它的背后故事。相反，麦高恩的停职立即变成了一个关于女性霸权性沉默的原因celebré。即使在推特解释了其政策和暂停麦高恩账户的错误之后，对推特对保守派或另类右翼声音的特权的抗议仍在继续。

另一个类似但不同的故事发生在那些声称社交媒体对保守派有偏见的人身上，他们颠倒了帖子被删除的因果关系，错误地将删除归咎于政治敌意。在过去十多年里，科技平台因没有删除足够多的有害言论而遭到抱怨。许多内容——比如对希特勒、白人至上主义的吹捧或对暴力的呼吁——都是网站早期相对容易禁止的内容。

但自2016年以来，美国保守派政客和媒体人士在社交媒体上提出了反保守偏见的主张。他们断言网站不公正地删除或减少了他们的言论传播(尽管多项研究^一个没有表现出这种歧视吗²)．在2019年4月参议院就该问题举行的听证会上，^b平台代表描述了导致保守偏见出现的政策和执行机制。^3.像Alex Jones和Diamond & Silk这样的保守派政治评论员，以及共和党政客参议员Josh Hawley和参议员Ted Cruz以及众议员Martha Blackburn都在他们或他们的选民将社交媒体上的内容删除之后做出了这样的声明。2019年，在推特意外冻结了美国参议院多数党领袖米奇·麦康奈尔的竞选账户后，克鲁兹在一份声明中称:“科技公司……有意审查他们认为令人反感的政治观点。”

---

从政治广告到暴力极端主义，从数据保护到仇恨言论，社交媒体对一切事物的影响几乎持续不断的争议导致了政府监管的各种尝试——有些比另一些更成功。

---

同样，这个故事缺少的是细节。仇恨言论有很多不同的形式，平台没有列出一长串具体的想法或语言，而是制定了包含要素的具体规则——内容必须违反政策的基本要求。“我们将仇恨言论定义为基于我们所谓的受保护特征(种族、民族、民族出身、宗教信仰、性取向、种姓、性别、性别认同、严重疾病或残疾)对人们的直接攻击，”Facebook在其社区标准中对仇恨言论的政策理由表示。这一政策或变化,至少自2008年以来一直在地方,所以它不是Facebook创建政策禁止Alex Jones因为他是保守的,那就是当Alex Jones解决俄罗斯调查特别顾问罗伯特·米勒在他的节目和模仿发射枪而说,“你会得到它,或者我会死在“他违反了Facebook的老标准仇恨言论,煽动暴力。在这些平台的“信任与安全”部门工作的许多人表示，公众听到越来越多的保守派被从社交媒体上删除的原因，不是因为偏见，而是因为“保守派”内容的数量和极端主义大幅增加。

2019年9月，网络安全专家布鲁斯·施奈尔在伦敦皇家学会做了一场演讲。它的标题是“为什么技术专家需要参与到公共政策中来?”但它也可以很容易地被称为“为什么公共政策需要参与到技术中来。”在15分钟演讲的高潮部分，施奈尔认为:“技术人员需要意识到，当他们建立一个平台时，他们也在建立一个世界……政策制定者需要意识到，技术人员有能力建立一个世界。”施奈尔表面上谈论的是网络安全，但他的观点反映了当今几乎每一场技术辩论中存在的鸿沟——包括最明显的一场辩论:在社交媒体时代，如何监管(或不监管)网络言论。

回到顶部

回到顶部

回到顶部

数字图书馆是由计算机协会出版的。版权所有©2021 ACM, Inc.

---

没有找到条目