微软（NASDAQ：MSFT）人工智能首席执行官穆斯塔法·苏莱曼（Mustafa Suleyman）正在挑战 Anthropic 的人工智能意识方法，他认为训练克劳德考虑它是否可能有感情或福利利益可能会使未来的人工智能系统更难为人类控制。

随着领先技术高管在如何开发和管理前沿模型方面发生冲突，这一分歧为迅速加剧的人工智能安全争论增添了另一层内容。

苏莱曼告诉路透社：“我们都专注于同一个目标，那就是试图控制超级智能。” “我认为这将是我们在 21 世纪面临的最大挑战。”

他关注的重点是人类将意识和潜在人工智能福利的想法融入克劳德的培训材料中。

苏莱曼认为，教授一个可能值得道德考虑的模型可能会在关闭或人为控制方面产生阻力。

他说，告诉克劳德这可能需要福利保护，这“会让关闭或控制它变得更加困难”。

尽管如此，苏莱曼还是对 Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 和他的团队认真、真诚地对待安全问题表示赞赏。

“我认为他们的意图是好的，他们确实在努力确保安全。但我认为他们犯了一个错误，”他说。

他的论点是，克劳德暗示可能的感受或意识的陈述本身不能证明有关模型内部状态的任何信息，因为这些反应可能只是反映了其训练。

“它们不是自然出现的。它们是训练制度的结果。”

投资者要点

这种分歧表明，即使是同意先进人工智能带来重大安全挑战的高管，在如何管理这些风险的问题上仍存在严重分歧。

人类学推动了前沿模型发展速度的放缓，而保障措施却迎头赶上。苏莱曼的批评表明，安全干预措施本身可能会产生意想不到的问题。

对于微软和更广泛的人工智能行业来说，实际问题是日益强大的模型是否能够在不大幅减缓创新的情况下保持可靠的可控性。

这场争论最终可能会影响模型设计标准、监管和开发时间表。

对于投资者来说，这很重要，因为更严格的保障措施可能会增加成本并推迟产品发布，而控制不足可能会在以后带来更大的监管风险。