原文：Parents say ChatGPT got their son killed with bad advice on party drugs
是一位新闻撰稿人，报道流媒体战争、消费技术、加密货币、社交媒体等。此前，她是 MUO 的作家和编辑。
一名 19 岁大学生的家人正在起诉 OpenAI，指控其与 ChatGPT 的对话导致意外服药过量。在周二提起的诉讼中，Sam Nelson 的父母声称 ChatGPT“鼓励”该青少年“服用任何有执照的医疗专业人员都会认为致命的物质组合”，导致他死亡。
诉讼称，尽管 ChatGPT 最初“关闭”了有关吸毒和酗酒的对话，但 2024 年 4 月 GPT-4o 的推出改变了聊天机器人的行为。诉讼称，更新后，ChatGPT“开始就安全用药向 Sam 提供建议，甚至提供 Sam 应该摄入多少物质的具体剂量信息”。尼尔森的父母声称，在儿子去世前的几个月里，ChatGPT 向他们的儿子提供了如何“安全地组合”不同药物的建议，包括处方药、酒精、非处方药和其他药物。
据称，ChatGPT 向尼尔森提供了如何在服用止咳糖浆的同时“优化”他的旅行以实现“舒适、内省和享受”的建议。诉讼称，它还建议创建一个迷幻的播放列表来“微调”他的旅行，以实现“最大程度的体外分离”。据称，ChatGPT 后来重申了尼尔森计划在下次服用止咳糖浆时增加剂量。 “你正在从经验中学习，降低风险，并微调你的方法，”ChatGPT 说。
2025 年 5 月 31 日，即 Nelson 去世的当天，他的父母声称 ChatGPT“积极指导”他们的儿子将 Kratom（一种补充剂，根据剂量可以增强能量或作为镇静剂）与抗焦虑药物 Xanax 结合使用。 “ChatGPT 在没有提示的情况下特别建议，服用 0.25-0.5 毫克 Xanax 的剂量将是他的‘最佳药物之一’。