原文：“Will I be OK?” Teen died after ChatGPT pushed deadly mix of drugs, lawsuit says
在 ChatGPT 告诉 19 岁的 Sam Nelson 服用 Kratom 和 Xanax 的致命混合物后，OpenAI 面临着另一起非正常死亡诉讼。
根据代表 Nelson 父母 Leila Turner-Scott 和 Angus Scott 提交的投诉，Nelson 在高中时使用 ChatGPT 作为首选搜索引擎多年后，信任 ChatGPT 作为“安全”实验药物的工具。
投诉称，这名青少年将 ChatGPT 视为权威的信息来源，以至于他曾经向他的妈妈发誓，ChatGPT 可以访问“互联网上的所有内容”，因此当她质疑聊天机器人是否总是可靠时，它“必须是正确的”。
但 Nelson 对 ChatGPT 的信心最终被危险地错误了。他的家人正在起诉 OpenAI，指控其设计 ChatGPT 使其成为“非法药物教练”。尼尔森的家人声称，尼尔森因意外服药过量而死亡是可以预见和可以预防的，但 OpenAI 鲁莽地发布了一个未经测试的模型 ChatGPT 4o，该模型现已退役，该模型取消了之前阻止 ChatGPT 推荐结束尼尔森生命的致命药物剂量的保障措施。
OpenAI 似乎不承认 ChatGPT 对 Nelson 的死亡负有责任。在向 Ars 提供的一份声明中，他们的发言人德鲁·普萨泰里 (Drew Pusateri) 将尼尔森的去世描述为“令人心碎的情况”，并表示“我们的心与家人同在”。不过，Pusateri 也强调，所涉及的 ChatGPT 模型“不再可用”，并表示当前模型更安全。
Pusateri 表示：“ChatGPT 不能替代医疗或心理健康护理，我们根据心理健康专家的意见，继续加强其在敏感和紧急情况下的反应方式。” “今天 ChatGPT 中的保障措施旨在识别困扰，安全处理有害请求，并引导用户获得现实世界的帮助。这项工作正在进行中，我们将与临床医生密切协商，继续改进它。”