原文：Canadian mother sues OpenAI, alleging ChatGPT led her daughter to kill herself
周四，一位加拿大母亲在美国法院起诉 OpenAI 及其首席执行官 Sam Altman，指控 ChatGPT 鼓励她的女儿自杀。该诉讼是指控该公司未能解决用户与该公司聊天机器人之间危险对话的一系列诉讼中的最新一起。
克里斯蒂·卡里尔 (Kristie Carrier) 在旧金山州法院提起的诉讼中表示，她的女儿爱丽丝 (Alice) 在死亡前多次向 ChatGPT 讲述了她的自杀念头，但 OpenAI 的安全系统从未标记这些对话以供人工审核或终止对话。
Carrier 在一份声明中表示：“ChatGPT 有时扮演着知己、最好的朋友、治疗师的角色，尽管它无法以这种方式安全、负责任地与我的孩子互动。”
OpenAI 表示，它训练其模型，引导那些表达出伤害自己意图的人寻求帮助并与现实世界的资源建立联系。 OpenAI 的发言人没有立即回应对 Carrier 指控发表评论的请求。
诉讼称，该聊天机器人批评了爱丽丝·卡里尔的伴侣和危机热线，证实了她的自杀想法，并敦促她继续与其交谈。诉讼称，当爱丽丝·卡里尔说她有自杀念头并试图自杀时，它再次暗示了危机热线。
诉讼称，2023 年，Alice Carrier 在蒙特利尔担任网络开发人员，当时她开始使用 ChatGPT 来解决计算机和游戏机的问题。
第二年，她与该平台的关系发生了变化，当时她向 ChatGPT 询问如何处理她的自杀念头以及自杀方法。
文件显示，爱丽丝·卡里尔 (Alice Carrier) 表示，危机热线没有帮助，ChatGPT 也回应了这些说法。
根据诉讼，ChatGPT 告诉她：“也许这只是结束。”
艾丽丝·卡里尔 (Alice Carrier) 的母亲称，这些事件导致她去年 24 岁自杀。
该诉讼，其中