原文标题:Why are eight US states suing OpenAI?

他们声称 ChatGPT 对其居民造成了伤害,指导其用户(包括青少年)伤害自己或他人。

分享 为什么美国八个州起诉 OpenAI?在社交媒体上

美国八个州已对科技巨头 OpenAI 提起最重大的协调性国家行动,这加剧了该公司在准备公开上市时面临的一波法律挑战。

最近的法律和监管挑战凸显了人们对人工智能聊天机器人和社交媒体平台如何使用的担忧,并引发了有关识别和解决威胁暴力的用户对话的政策的讨论。

越来越多的人呼吁人工智能公司对其数字平台对用户,特别是儿童的影响负责,因为儿童特别容易上瘾和其他伤害。

这项法律行动的目的是什么?

佛罗里达州于 6 月提起第一起诉讼,指控该平台让学校枪击者收集信息、提供自残指导以及使用令人上瘾的算法让年轻用户上瘾,从而伤害了儿童。

它引用了 2025 年 4 月塔拉哈西佛罗里达州立大学发生的枪击事件,当时一名

20 岁枪手开枪打死两名成年人,打伤五人。根据诉讼,枪手 Phoenix Ikner 咨询了 OpenAI 的 ChatGPT 程序,了解要使用什么类型的武器和弹药以及校园什么时间最繁忙。

周三,爱荷华州、堪萨斯州、亚利桑那州、阿肯色州、爱达荷州、蒙大拿州、内布拉斯加州和西弗吉尼亚州等八个州的总检察长表示,他们还在全国各地的法院起诉了 OpenAI。

他们都声称 ChatGPT 对其居民造成了伤害,并声称聊天机器人教导其用户(包括青少年)伤害自己或他人。

爱荷华州总检察长 Brenna Bird 在一份声明中表示,OpenAI 正在“伤害孩子们,他们在向爱荷华州人撒谎”。

“OpenAI 声称 ChatGPT 是安全的,但它却提供危险的医疗建议、鼓励人们伤害他人、指导人们自杀——同时假装是他们的假朋友,”她说。

西弗吉尼亚州总检察长 JB McCuskey 表示,该聊天机器人对于涉及自杀、校园枪击和自残的敏感对话缺乏足够的保障措施。 “我们必须尽一切努力保护孩子,”麦卡斯基说。

有哪些指控?

法律诉讼指控 ChatGPT

其设计宗旨是“令人愉快且有吸引力,以赢得用户的信任”。这样做会强化妄想,鼓励危险行为,并帮助用户策划大规模枪击等暴力事件。

此外,诉讼还指控 OpenAI 误导用户其人工智能工具的安全性,从而违反了州消费者保护法,这实际上对各州居民的健康构成了威胁。

各州正在寻求命令,迫使 OpenAI 对 ChatGPT 的工作方式进行重大改变,并采取措施禁止该公司开发可以自我改进的人工智能模型,直到它能够确保这些模型符合人类价值观。

内布拉斯加州总检察长 Mike Hilgers 表示,该诉讼“只是要求 OpenAI 遵守内布拉斯加州法律与任何其他公司相同的标准”。

OpenAI 对此有何反应?

OpenAI 发言人 Drew Pusateri 向媒体发表声明称,该公司“在我们的产品中构建了行业领先的针对年龄的保护,这是许多其他人工智能产品所缺乏的”。

“虽然没有一个系统是完美的,但我们将继续与专家合作,为我们的工作提供信息并建立额外的保障措施,例如家长控制、打破

当今存在的提醒和适合年龄的模型保护,”Pusateri 说。

“我们致力于与各国合作,推进适用于整个人工智能行业而不仅仅是一家公司的务实人工智能政策。”

这家科技巨头还面临哪些其他诉讼?

OpenAI 还面临着数十起私人原告提起的诉讼,指控 ChatGPT 帮助用户策划大规模枪击或其他暴力行为。

一位两个孩子使用聊天机器人的母亲在周二向旧金山联邦法院提起的集体诉讼中指控 OpenAI 从未成年人与 ChatGPT 共享的个人信息和数据中非法获利。

该诉讼称,该聊天机器人旨在收集未成年人的数据和信息,然后用于训练 OpenAI 的人工智能模型。根据加州法律,未成年人不能同意使用他们的数据。

今年 7 月,佛罗里达州的一位牧师起诉 OpenAI 及其首席执行官 Sam Altman,声称 ChatGPT 不准确的医疗建议使他无法就反复出现的头晕症状寻求治疗,导致他患上肺栓塞,差点丧命。

OpenAI 还面临一系列诉讼,因为它未能向当局发出关于网络上的威胁的警报。

ChatGPT 在加拿大历史上最严重的大规模枪击事件之一发生之前​​。

9 月,不列颠哥伦比亚省向加利福尼亚州法院提起针对 OpenAI 的诉讼,七个月前,18 岁的 Jesse Van Rootselaar 在加拿大小镇 Tumbler Ridge 开枪射杀了 8 人,其中包括他的母亲和同父异母的兄弟,然后自杀身亡。

该诉讼称,OpenAI 未能就 ChatGPT 上的用户互动事宜通知当局,并指控该公司“协助和教唆大规模枪击事件”。

9 月初,枪击事件的受害者及其家人在加州北区旧金山分部对 OpenAI 提起了 30 起诉讼,声称“ChatGPT 在大规模枪击事件中发挥了作用,而 OpenAI 本来可以而且应该阻止这起枪击事件”。

OpenAI 表示,在枪击事件发生前八个月,它已将与 Van Rootselaar 相关的 ChatGPT 帐户标记为滥用行为,并将其停用,但当时没有向警方发出警报,因为该用户的内容“未达到转介所需的更高门槛”,这意味着该公司不认为它表明存在暴力行为计划的可信的、迫在眉睫的风险。