Discord 承认，其人工智能审核系统中的一个错误在过去两个月中错误地禁止了 8,000 多名用户，此前无害的图像（包括电子表格、棋盘、游戏纹理以及白色和灰色透明背景）被错误地标记为有害内容。该公司证实，该问题自 5 月份以来一直影响着账户，在其团队发现并解决该问题之前，周末又禁止了 200 名用户。目前正在恢复所有受影响的帐户。这一事件突显了人工智能辅助审核面临的日益严峻的挑战之一，因为许多平台越来越依赖自动化系统来大规模识别非法或滥用材料。在 X 的详细帖子中，Discord 解释说，其自动化安全系统的工作原理是将上传的内容与已知有害材料的数据库进行匹配。虽然该技术旨在捕获非法内容，但该公司承认它有时会产生误报。人工审核员审查了内容，但一个错误导致系统立即禁止受影响的帐户。该公司写道：“我们正在努力采取更好的保障措施，以免这种情况再次发生。”我们的系统通过将内容与已知的有害材料进行匹配来标记内容。这种相似性匹配可能会产生误报，这就是为什么我们的信任与安全团队的成员总是在采取任何行动之前检查标记的内容。预期行为是...... — Discord 支持 (@discord_support) 2026 年 7 月 7 日 在 X 和 Reddit 上，用户声称他们仅仅因为上传包含方形网格图案的图像而被永久暂停。一些用户推测，Discord 的人工智能审核工具对网格状模式变得越来越敏感，因为它们之前曾被用来试图掩盖或掩饰自动检测系统中的 NSFW 和儿童剥削内容。受影响的用户一直在社交媒体上表达了不满，一些人认为，仅基于自动检测的永久帐户禁令可能会产生严重后果，特别是对于依赖 Discord 工作、游戏社区或远距离社交联系的用户而言。
“因为这样不公平的事情而失去 Discord 帐户可能会造成极大的破坏，并严重影响用户，每天都有数百万用户受到虚假 AI 禁令的影响。这种情况需要停止，”一位 X 用户写道。由于您的 AI 自动模组中的错误将我的游戏纹理检测为 CSAM，我的帐户被错误地禁止在您的平台上。我需要找回我的帐户，因为我是一名游戏总监，并且使用 Discord 进行所有沟通。我已请求对我的停职进行审查。
@discord @discord_support pic.twitter.com/QfAkCIJo6S — JDBRYANT 🎂 今天 (@jdbryantdev) 2026 年 7 月 4 日 Discord 并不是唯一一个因自动化系统而面临审核问题的公司。去年，Instagram 和 Facebook 群组的用户报告了广泛的不明原因帐户被暂停的情况，许多人认为这是由人工智能审核系统造成的。尽管用户指出自动化可能是罪魁祸首，但 Meta 从未公开证实人工智能错误是否是罪魁祸首。现在，Meta 的监督委员会正在推动提高透明度。
Tumblr 去年也面临用户投诉，称他们的账户在没有明确解释的情况下被大规模暂停。主题人工智能、应用程序、不和谐、社交当您通过我们文章中的链接购买时，我们可能会赚取少量佣金。这并不影响我们的