Total Capital 创始人兼董事总经理、微软 Azure 业务前负责人 Sheila Gulati 讨论了 Sam Altman、Dario Amodei 和其他人对人工智能领域日益严重的警告。该部分围绕是否应该认真对待这些警告以及它们与对人工智能监管的更广泛担忧之间的关系展开了对话。她在“The Close”节目中与 Romaine Bostick 和 Bailey Lipschultz 进行了交谈。
我确实想从我们最近从 Sam Altman、Dario Amode、Amode 和这里的其他一些人那里收到的一些警告开始。我们是否应该认真对待他们所说的A？我猜他们就是这样，强调是自私还是这些关于人工智能能力的合法问题，更重要的是，至少在他们看来，缺乏护栏。
这些担忧是合理的。关于人工智能前沿的讨论，你知道，我认为人们不一定会喜欢减速的比喻，但与我们确保向个人、公司提供技术的能力相适应的节奏是一种明智的思考节奏的方式，这也是人们经常谈论的内容。
但是我们该怎么做呢？我的意思是，我们应该指出，美国总统已经站出来说，用他的话来说，所有这些对人工智能的恐惧都是骗局。他的话。我明白，看，总统有一套说话的方式，但最终，如果这将是政府主导的努力，那么很难相信这将来自美国方面，至少考虑到他对此的公众看法。
嗯，两者都必须是，对吗？这些公司真正担心前沿正在创造什么以及前沿的能力。所以他们开始对自己的公司进行更多的安全参数化，对吧？坦率地说，这一点很重要，人们早就应该更加认真地对待这一问题，在可理解性、可解释性、护栏等所有方面投入更多资金。但这本身不会发生，对吗？我们需要监管框架。我们需要外部监督，我们不需要花钱来进行外部监督，对吧？这对这些公司来说确实是外部的。我们需要像对待边境其他地区一样认真对待安全。
您认为外部监督会从哪里来？这会来自一个国际机构吗？
你必须两者兼得。正确的？这是一个很好的类比，即核不扩散方面，各国必须聚在一起说，哇，这真的很危险。我们将在国内做事，但我们将以相互关联的全球方式做事。再说一次，我不认为人们会放慢前沿速度，而是与安全能力同步，保持透明，具有可听性，拥有真正的监管机构来关注美国和国际上的情况。这很聪明，对吧？如果确实对此感到恐惧，那么这是有道理的，而且无论是从安全风险方面，还是从社会变革的步伐和人类变革的步伐来看，这种恐惧都是有道理的。这些东西很重要，对吗？我们在这里谈论人类的未来。我们实际上应该认真对待它，让私营部门和公共部门都参与其中。
但你可以纵观各个行业，我想说的是，至少从我的谈话来看，现状是政府采取大规模行动的速度比私营企业慢得多。因此，即使只是想一想罗曼的观点，在美国，你谈论的是一个不想放慢任何事情、也不倾向于这种节奏理念的政府。那么这是如何对齐的呢？
但是节奏，所以我并不是说节奏就是放慢速度。我是说，嘿，让我们加快安全措施。这是一个不同的概念，对吧？如果你说，嘿，我们要加快步伐，我们要放慢速度，而不是我所说的。我是说，让我们投资于安全。让我们投资以实现正确的目标。遗憾的是，我们在安全、身份、理解人工智能在这些公司内部所做的事情方面的投资严重不足，这就是他们所说的。正确的？当我们谈论人工智能的新兴属性时，这意味着我们不知道人工智能为什么会这样做。但我们从来没有深入地理解这一点。所以我们需要切实增加对安全的理解和投资。
但这是否如亚历克斯·卡普（Alex Karp）所说，取决于个别公司的倾向或
两者都是。绝对是两者兼而有之。正确的？当我们在美国设计汽车时，我们并没有说，嘿，为什么汽车制造商不决定速度限制应该是多少？为什么他们不决定我们何时应该配备安全带和安全气囊以及其他安全问题？正确的？因此，私营部门和公共部门之间必须协调一致。音乐会的另一层是，看，我们正在构建这项技术来改善人类。它可以以戏剧性的方式改善人类。但人们需要看到这样做的好处，对吗？人们需要说，嘿，数据中心将增加对教育的投资。呃，你知道，我们拥有更好的医疗保健，当我们说我们从人工智能消费中获得收入，然后我们削减经济某些部分的成本时，你知道，了解美国经济是如何运作的，我们就有通货紧缩的机会。所有这些都必须汇集到人们身上，因为现在人们在说，嗯，你知道，这是否会让一些大公司变得超级富有，然后我们将会有一些机器人受益。
但你已经看到了强烈的反对，我想指出，我的意思正是我们现在所说的，德克萨斯州州长已经发表了一份声明，基本上暂停了新的数据中心法案，直到他们可以用他的话来说进行审计，还有很多其他州和其他市政府采取了类似的做法，无论是否基于合理的理由，我们可以对此进行辩论，但公众肯定担心这对他们个人、他们自己的工作和他们的生活意味着什么。自己的生计。嗯，当你刚才所表达的内容看起来不像其他人所表达的那样时，你如何抵消这些恐惧？
它没有被阐明。这些数据中心已经建成，交易是在州一级和其他事情上完成的，没有透明度。在这个不为人民服务的国家这是反民主的，对吧？那么，在这些社区中可以采取哪些透明措施来确保电力成本不会增加，对吗？了解这种人工智能会给社区带来什么好处。然后了解其经济学原理，对吗？如果我们有丰富的资源，那就没问题，所以整个科技生态系统都在谈论人工智能的丰富性。我们就像，哦，我们将拥有丰富的资源，智慧将无处不在。好吧，如果不是每个人都富裕，那么从定义上来说就不是富裕。但是，你要做的就是对人工智能的消费征税，对吗？你接受了这一点，你就增加了社会福利。您还投资于工作再培训，因为我们知道将会出现大规模的工作混乱。你还投资一项新的新政，比如为国家建设什么基础设施，每个人都可以，你知道，我们可以说，两党都可以达成一致。
但我确实想停下来，你谈到了关于智能的概念，上周我们有人谈到了这样的想法：当任何人都可以查找任何东西并立即访问任何东西时，人类智能如何在一定程度上开始成为人工智能世界中的商品。我们就用什么来取代它进行了整个辩论。我认为人类判断这个词、这个短语已经被广泛使用了。这是许多人存在主义恐惧的一部分，因为它不仅取代了我们的工作，而且可能取代了我们作为人类的身份。
我们不应该让它发生。这是一项由人类创造的技术，如果不是为人类创造的，那就是我们所犯的错误。而且，你知道，大多数人可能没有读过教皇的整个通谕，但它的基本点是正确的，那就是你可以拥有惊人的技术进步。这可以为社会做出惊人的事情，对吗？拥有令人难以置信的好处。但如果我们不能为人类带来这些好处，我们在做什么呢？我认为这就是一个问题，当我们构建这项新技术时，我们的道德是什么？它如何使个人和人民受益？好吧，有一种形式的智力。这不是人性。伟大的。这让我们有机会按照我们选择定义的方式来定义人性，提出我们以前无法提出的难题，但我们在这个范式中处于什么位置呢？人类的意义在哪里？