阻碍AI CSAM调查？
更多年轻女孩因 Grok CSAM 起诉 X； X 被指控包庇儿童掠夺者。
据称由 Grok 生成的儿童色情图片的最可怕案件之一在一项拟议的集体诉讼中被分享，该诉讼于周二扩大。现在，年轻女孩不仅指责 X 和 xAI 制造有毒的人工智能“裸体”工具，还通过阻碍警方对 Grok 生成的儿童性虐待材料 (CSAM) 的调查来保护儿童掠夺者。
修改后的起诉书称，今年 3 月，一名女孩的继父在警察发现他使用 Grok 用一张继女 11 岁时拍摄的照片制作了 7,000 张露骨色情图片后结束了自己的生命。
投诉称，Grok 允许该男子生成描绘乱伦和强奸的极端图像，而没有标记任何有害行为。看起来，xAI 的儿童安全系统只是在该男子输入“轮奸”提示后才进行干预。该请求向国家失踪和受虐儿童中心 (NCMEC) 发送了一份 CyberTip，该中心向执法部门发出了有关 AI CSAM 的警报。
然而，伤害并没有停止。投诉称，尽管在 CSAM 被标记时强制报告要求共享用户 IP 地址等信息，但 xAI 一再拒绝帮助警察或 NCMEC 识别用户身份。数周以来，xAI 据称“在每一个环节都阻碍了调查”，并使“执法部门定位、识别和逮捕肇事者”变得更加困难。
最终，在警察获得搜查令扣押继父的设备后，继父被捕。就在那时，“法医审查发现了大约 7,000 个人工智能生成的图像和视频”，描绘了他的继女，据称这些图像和视频是使用 Grok 制作的。如果没有 Grok 为用户提供轻松访问“脱衣”功能，他的家人怀疑他是否会生成有害图像，据称他在网上贩运这些图像以换取“其他儿童性掠夺者制作的 CSAM”。
起诉书称，该男子获保释两天后开枪自杀，导致这名年轻女孩（在起诉书中被称为“无名氏四号”）陷入“一段极度个人危机的时期”。她现在遭受的伤害包括焦虑和抑郁，以及“与自杀念头的斗争”。
诉讼称：“一夜之间，《无名氏 4》的整个现实被儿童性剥削和自杀的双重悲剧所粉碎。” “她的家庭支离破碎，她的生活变成了一场噩梦。”
## xAI 据称保护掠食者
Lieff Cabraser Heimann & Bernstein 和 Baehr-Jones Law 的女孩法律团队在一份新闻稿中表示，Jane Doe 4 的案件并非特例。他们指出，NCMEC 在 2026 年初发现，90% 的 xAI CyberTipline 报告“无法被执法部门采取行动，因为 xAI 拒绝包含允许执法部门跟踪和定位肇事者的用户信息。”正如律师们所解释的：
> “Jane Doe 4 的案例展示了这种模式的结果：xAI 向 NCMEC 提交的强制报告仅包含原始的非 CSAM 照片，省略了每一张 AI 生成的 CSAM 图像，并且未包含创建这些图像的 IP 地址。尽管调查人员多次要求提供对于识别和逮捕肇事者至关重要的位置信息，但 xAI 没有做出回应，从而阻碍了调查数周。”
据称，xAI 避免分享这些信息，将利润置于儿童安全之上。在新闻稿中，Jane Doe 4 指责 X 在 Grok 将“一张我睡在沙发上、穿着一件超大熊猫睡衣衬衫的小女孩的照片”变成“数千张我的露骨色情图片——这些图片如此可怕，我什至无法描述它们”后，X 变得“沉默”。
“他们拥有帮助执法部门阻止责任人并伸张正义所需的一切。相反，他们保持沉默，并允许这个人利用 Grok 窃取我的童年，”Jane Doe 4 说。
“这项技术是一种免费、易于获取的武器，落入世界上最糟糕的人手中。危险的是，没有办法阻止掠夺者拍摄任何照片（不仅仅是互联网上的照片），而是任何儿童的照片，并使用这项技术从你最糟糕的噩梦中创建图像。没有人是安全的——成人、儿童、任何人都不是。”
周二挺身而出的另一名女孩 Jane Doe 5 也成为了一位已知熟人的目标，她是一位成年家庭朋友，同样在网上贩运了所谓的 Grok 生成的图像。投诉称，警方逮捕肇事者并指控他“广泛持有和传播 CSAM 内容”，而该女孩“仅限于非人工智能生成的 CSAM”后才收到通知。
她的母亲将 Jane Doe 5 的虐待归咎于 xAI，并表示因为 Grok，“我的女儿充满了焦虑，并且完全无法控制谁看到了这些图像。任何孩子都不应该经历这些。”
xAI 创始人埃隆·马斯克否认 Grok 曾被用来生成儿童色情图片。
然而，研究人员估计，Grok 松懈的安全措施（允许用户提出脱衣图像的“辛辣”请求）在没有有意义的干预的情况下伤害了数以万计的孩子。到目前为止，xAI 唯一的行动是对该功能收费，投诉称这只是确保 xAI 从所有 Grok 生成的 CSAM 中获利。
X 和 xAI 没有回应 Ars 的置评请求。
## 稳定性 AI 加入 xAI 之战
除了在诉状中增加更多受害者外，律师还将 Stability AI 作为被告。
根据修改后的投诉，Stability AI 的开放权重模型是在 CSAM 上进行训练的，据称“作为第三方‘裸体’应用程序的基础”，Grok 用户据称依赖这些模型来进一步改变明确的 Grok 输出。
与 X 和 xAI 一样，Stability AI 也被指控故意放宽保障措施，通过允许一代又一代的不安全工作 (NSFW) 内容来抢占市场。该诉讼称，“据了解和确信”，由于用户抱怨该模型过于谨慎，Stability AI 的模型使用率下降，此前阻止 NSFW 输出的保障措施被取消。
似乎在最初提起诉讼后，警方发现两名针对未成年人提起诉讼的肇事者的手机上安装了依赖“Stability AI 图像生成工具”的应用程序。因此，投诉被修改为声称某些肇事者可能使用了 Grok 或 Stability AI 相关工具，或者可能同时使用了两者。
由于如此多的裸体应用程序依赖于 Stability AI 的模型，诉讼称“如果没有 Stability 的模型，衍生应用程序将不会以当前的形式存在，也不会具备创建 CSAM 所需的图像和视频生成功能。”为了支持他们的主张，修改后的起诉书引用了 6 月份的一份报告，研究人员在该报告中发现，“稳定扩散家族是基于图像的裸体的主要驱动力”，占此类图像的 42.7%。
周三晚间，Stability AI 的发言人回应了 Ars 的置评请求，强调“Stability AI 致力于防止人工智能技术的滥用，特别是有害内容的创建和传播，包括 CSAM，这在我们的可接受使用政策中是明确禁止的。”
该发言人引用了 Stability AI 的儿童安全工作，包括“定期”与执法部门以及儿童安全组织（包括 Thorn）以及打击儿童性剥削的科技公司全球联盟 Tech Coalition 合作。