明尼苏达州正在与埃隆·马斯克的 xAI 进行斗争，因为该公司试图阻止 HF-1606，这是首个针对人工智能工具的州法律，该工具可生成可识别人物的真实性图像。

在周五的一份法庭文件中，明尼苏达州总检察长基思·埃里森 (Keith Ellison) 辩称，xAI 不太可能在其宪法挑战中取得成功，并且未能证明执行该法律会造成无法弥补的损害。

“通过 Grok Imagine，X.AI 为数字性暴力创造了一个无与伦比的市场，几乎不存在任何进入障碍，”埃里森写道。 “如果明尼苏达州不能首先将其法律导向使数字性受害成为可能的技术，那么这个市场加上 Grok Imagine 的功能能力，将从一开始就毁灭明尼苏达州。”

该法律于 4 月颁布并于 8 月 1 日生效，禁止平台和软件开发商允许用户创建真实的图像，显​​示未出现在可识别个人原始图像中的私密身体部位。

今年 7 月，在该法律实施之前，xAI 起诉埃里森阻止该法律，称该法律违反了第一修正案，并且可能适用于受保护的图像，包括赤裸上身的男人、游泳者和政治讽刺作品。违规行为每张图片将面临高达 500,000 美元的处罚。

xAI 在投诉中写道：“通用人工智能创意工具提供商为避免伤害而做出的善意努力没有安全港。” “即使所描绘的人同意或自己创建了图像，即使图像从未被共享，也要承担责任。”

明尼苏达州在众议院以 132 比 1 和参议院以 65 比 0 通过了这项法案，此前议员们听到了一名男子利用社交媒体照片为他认识的 80 多名女性制作色情图片的报道。

“今天，我们领导国家保护妇女、儿童和公共生活中的每个人免受人工智能裸体技术造成的伤害，”领导这一行动的参议员梅耶·奎德 (Maye Quade) 在当时的一份声明中表示。 “在网上和应用商店免费提供这项技术的公司将不再被允许通过点击按钮来虐待和伤害成人和儿童的掠夺者。

该案现在的焦点是法律是否监管言论或技术。

Grok 还因露骨的深度伪造内容而面临审查。

一月份，监管机构估计 Grok 在 11 天内生成了超过 23,000 张儿童色情图片，促使多个国家展开调查。

今年 3 月，加利福尼亚州的三名未成年人与其他人一起起诉 xAI，指控 Grok 被用来将他们的照片变成人工智能生成的儿童性虐待材料。 xAI 表示，到 2026 年，它已暂停了 50,000 多个账户，并向国家失踪和受虐儿童中心提交了 70,000 多份报告。