原文:Florida probes ChatGPT role in mass shooting. OpenAI says bot "not responsible."

去年,佛罗里达州一所大学发生大规模枪击事件,造成两人死亡、六人受伤,ChatGPT 为一名枪手提供了建议,之后 OpenAI 现在面临刑事调查。

佛罗里达州总检察长 James Uthmeier 在一份新闻稿中证实,在审查了 ChatGPT 与涉嫌枪手 Phoenix Ikner 相关账户之间令人震惊的聊天记录后,启动了对 OpenAI 潜在刑事责任的调查。

据 Politico 报道,这名 20 岁的佛罗里达州立大学学生目前正在等待“多项谋杀和谋杀未遂指控”的审判。在新闻发布会上,Uthmeier 透露,日志显示,在 Ikner 涉嫌“犯下如此令人发指的罪行”之前,ChatGPT 提供了“重要建议”。总检察长强调,根据佛罗里达州的协助和教唆法律,“如果 ChatGPT 是一个人”,它也“将面临谋杀指控”。

对于 OpenAI,调查将测试该公司是否可以对 ChatGPT 的输出承担刑事责任。 OpenAI 发言人 Kate Waters 在向 Ars 提供的一份声明中表示,该公司预计这个问题的答案是否定的。

“去年佛罗里达州立大学发生的大规模枪击事件是一场悲剧,但 ChatGPT 不对这一可怕的犯罪行为负责,”沃特斯说。

但尤斯迈尔不太确定,这就是佛罗里达州必须紧急调查的原因。在新闻发布会上,他指出执法部门正在“冒险进入未知领域”,试图监控与人工智能工具相关的犯罪活动。 Uthmeier 表示,必须彻底调查与聊天机器人相关的日益增加的公共安全风险,包括自杀、儿童性虐待材料、欺诈和谋杀,以便公众明确知道像 OpenAI 这样的公司是否应对其产品据称造成的伤害负责。

阅读原文 →