最近,有关人工智能安全、恐惧和监管的讨论不断流传,Nvidia (NVDA) 首席执行官黄仁勋、Anthropic (ANTH.PVT) 首席执行官达里奥·阿莫迪 (Dario Amodei) 甚至特朗普总统都发表了评论。
Autodesk ( ADSK ) 总裁兼首席执行官安德鲁·阿纳诺斯特 (Andrew Anagnost) 与《市场催化剂》主持人朱莉·海曼 (Julie Hyman) 坐下来,分享了他对让大型科技公司承担责任的重要性的看法。
安德鲁,让我们谈谈这个,嗯,我们从人工智能行业听到的呼吁暂停的整个原因。
您刚才谈到,确保在物理环境中的情况是准确的,这非常重要。
因此,准确性是问题的一部分,但显然安全性也是问题的一部分。
因此,作为处理此事的人,我很好奇,您对这些电话有何看法,以及如果我们不推出越来越多的模型,会对业务产生什么影响?
是的,朱莉,我认为这实际上是一个非常重要的问题。
如果我们正在走向一个递归自我改进的世界,我们正在处理人工智能的世界,我们一直相信需要有护栏,因为如果没有适当的护栏,这样的技术可能会造成真正的伤害。
在 Autodesk,我们从一开始就呼吁对此类技术进行适当的监管和保护。
但与此同时,我们不需要任何人告诉我们在这些东西上设置护栏。
我们对我们的技术设置了护栏。
我们设置的护栏之一是围绕准确性。
另一个是确保我们不会让人们走上实际上做不起作用或对我们的客户为他们构建的产品有害的路线。
因此,我们实际上一直在自己采取行动,以确保我们正在开发一个高度信任、高度准确的系统。
我认为这些更大的前沿模型,如果它们的发展速度像它们声称的某些类型的技术一样快,而且我认为这不仅仅是这些讨论中所看到的。
人们确实需要开始加强并支持呼吁进行监管和设置护栏,并确保人们对其产品在现实世界中所做的事情负责。
我们接触的每一位专业人员都是有执照的专业人员,习惯于承担责任。
所以他们理解这样的观念:当我签署某件事时,我实际上要对结果负责。
因此,我们 Autodesk 的目标是为他们提供最准确的答案、以最快的时间获得这些答案以及以最具成本效益的方式获得这些答案,以便他们能够自信地签署这些设计和这些工程成果。
现在,如果我们的最终用户对他们签署的内容负责,呃,你不认为一些构建世界上最强大技术的人也应该考虑在将这些东西推向世界时他们要承担什么责任吗?