人工智能公司 Anthropic 发出警示，递归自我迭代（Recursive Self-Improvement，RSI）可能带来重大风险。上周，Anthropic 宣布其 AI 模型 Claude 目前已经能生成公司约 80%的代码，公司称这是 AI 进入“自我迭代”阶段的关键信号——即模型可以在无需人工干预下，设计下一代 AI 系统。
递归自我迭代概念近期在硅谷引发广泛关注。上月，OpenAI 在旧金山举办相关会议，吸引了多位研究人员探讨 AI 自我迭代带来的潜力与风险。Anthropic 的声明强调，随着 AI 能力快速提升，对潜在不可控行为的监测和安全机制建设愈发迫切。（The Information）