在前谷歌 DeepMind 研究员成为最新一位对该技术发出极端警告的业内人士后，Alphabet (GOOGL) 正面临着有关先进人工智能风险的重新关注。对于投资者来说，这些言论并不重要，因为它对 Alphabet 的盈利构成短期威胁，而更重要的是，这是人工智能发展放缓和监管收紧的压力在整个行业内形成的另一个迹象。
Bilal Chughtai 于 7 月离职前在 Google DeepMind 从事通用人工智能安全和协调工作，他周一警告说，日益强大的人工智能系统可能会带来生存风险。
Chughtai 在 X 上写道：“我最近从 Google DeepMind 辞职，我在那里从事 AGI 安全和一致性研究。我真诚地相信人工智能有可能杀死我们所有人，而我们可能已经没有时间来避免这种结果了。”
在他发出警告之前，Anthropic 的研究人员也发表了类似的评论。前人类研究员雅各布·考克森上周表示，构建人工智能的人们相信这项技术可能“到本世纪末杀死我们所有人”。人类排列科学家 Evan Hubinger 随后表示，他相信人工智能在未来十年内杀死所有人类的可能性超过 10%。
这些言论引发了一场更广泛的争论，即人工智能的竞争是否应该放缓。
Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 呼吁放慢先进人工智能的开发速度，并得到了 SpaceX 首席执行官埃隆·马斯克 (Elon Musk) 和 OpenAI 首席执行官萨姆·奥尔特曼 (Sam Altman) 的不同寻常的支持。
唐纳德·特朗普总统却反其道而行之，他将该行业要求加强监管的呼吁斥为“骗局”。
Alphabet 和人工智能投资者接下来应该关注什么
最大的市场风险不是研究人员最坏的情况本身，而是日益增长的安全担忧是否会转化为监管、模型发布速度减慢或开发成本上升。
Alphabet 投资者应关注 DeepMind 发布节奏的变化、人工智能相关的监管提案以及主要实验室为减缓前沿模型开发而采取的任何协调行动。
对于更广泛的人工智能贸易而言，如果模型开发时间延长，更严格的限制可能会影响提供计算和基础设施的公司。相反，有限的监管行动将使当前的人工智能支出竞赛基本保持不变。
下一个主要信号将是研究人员的警告是否开始改变政策或企业行为，而不是简单地加剧公众辩论。