Meta 首席执行官马克·扎克伯格 (Mark Zuckerberg) 公开回应了人们对可能出现的杀手级人工智能日益增长的恐慌——与其他公司决裂，似乎是在向竞争对手发出警告。
最近几天，人们对人工智能的危险越来越感到恐慌，此前一位前人类研究人员表示，由于该技术的危险，他已经辞去了工作。这导致人们普遍担心人工智能系统的威胁。
人工智能公司的领导者似乎越来越多地支持放慢人工智能开发步伐的呼吁，以便开发人员可以花更多时间确保系统安全。这使得甚至一些高管本身也提出越来越多的建议，即政府可能需要对这些公司进行监控，以确保没有一家公司会超前而将世界置于危险之中。
然而，自这场风暴开始以来，扎克伯格在他的首次重大评论中似乎暗示人工智能行业有足够的理由自行采取行动，以确保其技术的安全构建。他警告说，如果发现系统不安全，任何不这样做的公司都可能面临“重大”责任。
在他发表上述言论的三天前，在几位研究人员发出存在风险警告后，Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 敦促人工智能公司放慢改进模型能力的步伐。
竞争对手 OpenAI 的首席执行官萨姆·奥尔特曼 (Sam Altman) 和 xAI 的埃隆·马斯克 (Elon Musk) 在数小时内都公开支持了阿莫迪的呼吁。
然而，唐纳德·特朗普总统周一淡化了对人工智能潜在危害的担忧，称美国已经对该技术设置了防护栏，而中国将从对人工智能发展的质疑中受益。包括英伟达首席执行官黄仁勋在内的科技高管都认为，法规将损害美国公司与中国同行的竞争能力。
扎克伯格周二表示：“信任和协调正在迅速成为区分代理和模型的最重要能力。” “任何不注重对齐的实验室都会落后。”
扎克伯格周二还表示，实验室有强烈的动机阻止他们的模型造成伤害，否则他们将面临“重大”责任。他指出，Meta 今年早些时候推迟了 Muse AI 代理的发布，以加强其安全性。
“我们并没有要求其他人先于我们这样做。我们只是将其作为日常工作的一部分，因为这显然对人们和我们来说都是正确的事情，”他说。
尽管阿莫迪呼吁全行业放慢递归自我改进（人工智能自我改进的能力），但扎克伯格表示，Meta 已将其“绝大多数”计算用于创建满足用户即时需求的产品，而不是追求自我改进的人工智能系统。
扎克伯格还表示，Meta Superintelligence Labs（其人工智能部门）已经在多个领域聘请了独立评估人员，称其为“行业最佳实践”，并且“其他实验室也可以做到这一点”。
几周前，Meta 同意支付高达 180 亿美元与美国达成和解，扎克伯格推动将 Meta 定位为人工智能安全领域负责任的参与者。州政府提起诉讼，指控该公司设计 Facebook 和 Instagram 是为了让儿童上瘾，但却不承认有不当行为。
联邦贸易委员会主席安德鲁·弗格森周二表示，人工智能公司在游说新法规的同时寻求反垄断豁免，这增加了人工智能公司采取任何协调措施的不确定性。
虽然弗格森先生没有点名 Anthropic，但阿莫迪先生上周请求反垄断许可，以便竞争对手能够出于安全考虑而协调放慢人工智能开发的步伐。