原文:Meta Changed Its Speech Rules. Then Threats Against Politicians Skyrocketed

去年,Meta 彻底修改了其平台上允许哪些内容的规则。该公司声称,自己在监管言论方面的努力已经太过分了,并将放宽有关言论允许的规则。 Meta 首席全球事务官乔尔·卡普兰 (Joel Kaplan) 当时在博客文章中写道:“我们过度执行我们的规则,限制合法的政治辩论,审查太多琐碎的内容,让太多人遭受令人沮丧的执法行动。”

一年多后,反数字仇恨中心 (CCDH) 的新研究显示了这些变化的直接影响。

研究人员分析了大约 800 万条 Facebook 评论,发现针对共和党和民主党议员的辱骂和种族主义评论在新规定实施后的六个月内增加了两倍。研究人员记录的某些类别的辱骂性评论甚至出现了更急剧的增长,暴力威胁和仇恨言论在同一时期翻了两番。

该报告列举了针对立法者的性别和种族主义虐待的具体例子,例如德克萨斯州的美国众议员茉莉花·克罗克特(Jasmine Crockette)和佛罗里达州的拜伦·丹尼尔斯(Byron Daniels)。这些评论并没有被 Meta 删除。

CCDH 研究人员还发现,在 Meta 彻底修改规则后的六个月内,针对特朗普总统的威胁增加了一倍多。研究人员表示,许多评论,其中包括对他生命的直接威胁,可能被归类为重罪。

为了评估这些规则变化的影响,CCDH 的研究人员选择了 100 名众议院议员,其中包括 Facebook 上粉丝最多的 50 名共和党人和 50 名民主党人。然后,研究人员在 Meta 政策改变前后的六个月内,收集了这些立法者在 Facebook 帖子上发表的近 800 万条评论。

研究人员使用经过训练的人工智能系统来识别数据集中可能在三个方面违反 Meta 当前政策的评论:

阅读原文 →