佛罗里达州的一位女士表示，她像使用日记一样使用人工智能。现在她正面临重罪指控，而送她去那里的读者却是她从未想过要给的人。
博尼塔斯普林斯的卡莉·米歇尔·海勒 (Carli Michelle Heller) 在调查人员发现她于 9 月 26 日写道要“向李县治安官办公室开枪”后被捕。根据调查，她的克劳德账户显示对话称她第二天就得到了一把新枪。
逮捕报告称，Anthropic 的平台会监控关键短语和威胁内容。由于这些言论的严重性，他们去了一个人工审查小组，该小组将这些言论报告给执法部门。
警员们认出了海勒的身份，前往她的家中，并平安地拘留了她。她被指控发出书面暴力威胁。
Anthropic 的文件并没有隐藏任何这一点。其消费者条款保留公司“自行决定”向执法部门报告用户的输入、输出或行为的权利。其