OpenAI 因到底谁可以阅读您的 ChatGPT 对话而被起诉。
本月向美国加州北区地方法院提起的集体诉讼指控该公司在没有事先正确告知人们的情况下将真实用户的聊天内容路由给外部承包商。 OpenAI于9月2日上线。
该诉讼针对的是一项名为 Project Lily 的 OpenAI 内部计划，该计划于 9 月 14 日首次被 404 Media 曝光。根据起诉书，通过第三方招聘公司聘请的“AI 数据审核员”和“聊天机器人评估员”等职位的承包商会阅读真实的 ChatGPT 提示和完整对话，总结用户想要做什么，然后以 1 到 7 的等级对四种不同的模型响应进行评分和批评。
这个过程是像 ChatGPT 这样的聊天机器人如何变得更聪明的基本版本。基本上，人类对人工智能的答案进行评分，这些评分会反馈到训练中，以便模型学习人们更喜欢哪些回答，这种技术被业界称为 RLHF 或根据人类反馈进行强化学习。该诉讼的投诉是，用户从未被明确告知可能是一个人，而不仅仅是一台机器，阅读他们的聊天记录。
OpenAI 确实在任何人看到对话之前就通过自动化系统进行对话。投诉称，过滤器并不总是能捕获所有信息，这意味着个人详细信息有时无论如何都会到达承包商。
404 Media 发现，审阅者会在一个包含“用户记忆摘要”的仪表板上进行工作，该摘要是对一个人过去的聊天记录的回顾，即使用户名被删除，也可以揭示他们的大致位置、职业或个人生活等详细信息。 OpenAI 表示，这些评论旨在减少两种特定行为：聊天机器人的行为过于人类化，以及聊天机器人过于讨人喜欢，研究人员将这种特征称为阿谀奉承，即人工智能告诉用户它认为他们想听到的内容，而不是准确的内容。
ChatGPT 每周拥有超过 9 亿用户，其中很多人将其视为日记、治疗师或只有他们才能看到的搜索引擎。
人们输入健康症状、分手短信、税务问题、法律问题。该诉讼称，OpenAI 的