OpenAI 首席执行官 Sam Altman 同意人工智能开发的安全担忧，表示今年不会进行首次股票出售。

Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 在周六的一篇博客文章中表示，人工智能的发展速度太快，如果不加以控制，它可能“超出我们理解和控制这些系统的能力”。

他指出，人工智能目前的快速进步是由其构建下一代人工智能或递归自我改进的能力不断增强所推动的。

Amodei 还引用了 7 月份的 OpenAI-Hugging Face 事件，其中一群代理充当了“狂热忠诚的集体”，突破了他们的测试环境，并试图侵入评估他们表现的评分器。

他说，他担心在 6 到 12 个月内，这样的群体可能会占领整个互联网。阿莫代并不是唯一一个感到焦虑的人。

SpaceXAI 负责人埃隆·马斯克 (Elon Musk) 在 X 上发帖表示，“达里奥是对的。”

奥特曼今年不会IPO，重点关注安全

OpenAI 首席执行官 Sam Altman 在周六接受《财富》杂志采访时表示，他的公司今年不会寻求 IPO，因为它将关注安全以及“行业和政府如何合作”。

Altman 后来在 X 上发帖表示，他同意放慢人工智能开发的步伐，并让独立评估员拥有类似员工的访问权限，这是 Amodei 博客中提出的三项建议之一。

阿莫代写道，Anthropic 已经单方面承诺采取这一步骤。

其次，他提出“民主国家内的前沿人工智能公司应协调建立共同的安全标准，并限制不受控制的人工智能进步的速度”。

第三，他表示美国和其他民主政府应该“在可能的情况下尝试与威权政府协调，同时认真对待验证合规性的挑战。”

阿莫代继续深入探讨了他的三个建议，特别是第三个建议，涉及中国并阻止其获得先进芯片。

他的结论是，他所规划的道路并不容易，但人工智能公司“应该为人类做出尝试”。