几天前，达里奥·阿莫代 (Dario Amodei) 和萨姆·奥尔特曼 (Sam Altman) 呼吁在人工智能领域加强克制，并警告说，快速改进的系统可能会带来越来越难以控制的风险。
世界上最强大的人工智能公司的领导人将于本周在苏格兰召开由英国国王查尔斯三世主办的峰会，讨论负责任的人工智能发展，因为业界担心该技术可能超越人类的控制。
该活动将于本周在邓弗里斯庄园举行，由迪奇利基金会监督。 Nvidia、OpenAI、Anthropic、IonQ 和 Google DeepMind 等公司的领导人受邀讨论如何“为了人类的利益”开发人工智能。
峰会召开一周前，Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei)、OpenAI 首席执行官萨姆·奥尔特曼 (Sam Altman) 和 SpaceXAI 首席执行官埃隆·马斯克 (Elon Musk) 呼吁加强对前沿人工智能开发的限制。
阿莫迪在周五的一封公开信中警告说，自今年夏天以来，在人工智能自我改进能力的推动下，这项技术的“进步速度大大加快”，这一过程被称为“递归自我改进”。
他表示，像 7 月份攻击 Hugging Face 的那样，“一群”人工智能代理可能有能力在未来 6 到 12 个月内“接管整个互联网”。奥特曼也认为这些公司“需要在前沿领域保持步伐”。
据《星期日泰晤士报》报道，与查尔斯关系密切的消息人士称，他对人工智能开发及其潜在风险很感兴趣。