微软副主席兼总裁布拉德·史密斯表示，人工智能在改善医疗保健、生产力和社会其他领域方面具有巨大潜力，但警告说，其不断增长的力量需要更强有力的保障措施。在与《华尔街日报》领导力研究所所长 Alan Murray 的对话中，史密斯讨论了为什么先进的人工智能系统需要“紧急刹车”、公司管理其构建的技术的责任，以及企业如何在管理人工智能风险的同时利用人工智能。
时机再完美不过了。我，我观察商业和政治的交汇已经有四十年了。我想我从来没有见过像过去两周那样的事情，呃，有一个所谓的告密者出来说他正在开发的产品有十分之一，呃，十分之一的机会导致人类灭绝。然后开放人工智能和人类的负责人说在我们再次杀人之前阻止我们，你知道，请进来监管我们，否则我们可能会做一些非常糟糕的事情。我什至不太知道如何解释。你能为我们解释一下吗？这是一个潜在的人类经历吗？区别事件，他们真的必须有监管来做负责任的事情吗？
嗯，在你的问题中，有很多事情非常重要，艾伦，我想我会从我们所看到的开始，即创建更强大的人工智能模型的科学，其发展速度比将这些模型与人类价值观和控制相结合的科学要快得多，这只是另一种说法。权力的进步比安全更快，我认为这是并且应该永远是任何产品的一个关注点，嗯，今年在过去的几个月里，我们看到了很多故事，嗯，基本上是关于代理系统或人工智能代理的故事嗯，他们的行为方式不是预期的，甚至可能没有被完全理解。嗯，他们爆发，他们闯入，他们撒谎，他们欺骗，他们可以偷窃，嗯，不幸的是他们正在复制人类行为的最糟糕的方面，嗯，然后当你开始想象更强大的模型，因此更强大的代理系统。你开始担心我们会发现自己生活在多年来看过的科幻电影中。所以我确实认为这是一个重要的时刻。我确实认为这是一个值得认真对待的问题。但现在的问题是我们该怎么办？
我们该怎么办？让我说，我可以想象，事实上，您今天早些时候谈到了这一点。我看到了你的评论。我认为它们非常有趣，与航空业相似。如果在某个时候制造航空公司的公司说过，你知道吗，喷气推进技术的进步速度快于我们建造安全飞机的能力，我们必须建造它们，然后有人阻止我们，否则我们会让你骑上它们，看看会发生什么。我的意思是，那没有发生。事情不应该这样进行。为什么我们在这个案例中听到的是这样的情况？
有时，是的，我认为你只需要提醒人们用更常识性的方式来思考他们的责任。嗯，是的，我，我有幸在过去四分之一个世纪的每一次会议中都参加了微软董事会，你知道，当你想到这一点时，这确实是一件不寻常的事情。你知道，我总是发现，一旦有人提出问题，人们就会做正确的事。嗯，我认为我们需要问的问题（我今天早上在联合国提出的）实际上是一个商业道德问题。嗯，如果你正在制造一架商用飞机，或者你正在制造任何东西，而你是一家公司的首席执行官，并且你得出结论认为你的产品不安全，那么你还是应该运送它吗？我认为显而易见的答案是否定的。你对公共安全负有责任，嗯，你知道我总是发现，当人们想起这一点时，他们往往会稍微醒悟并认识到这一点，顺便说一句，嗯，你不需要专门的法规来记住这不仅仅是我会说道德和道德责任是一项法律义务，嗯，因为在这个国家已有 100 多年的产品责任法。
任何设计产品并故意在不安全的情况下将其投放市场的人都可以类比到上一次谈话，嗯。食物，我们今天认为理所当然的东西。你看，在20年代，受污染的牛奶是人们担心的事情。它可能被污染。它会传播伤寒、肺结核。当你去杂货店时，这些不是你想要的东西。嗯，所以我们不只是。真正要求并要求该国的牛奶生产商生产安全牛奶，但我们安排了农业检查员，我们制定了一些法律，只是认为我们去杂货店，有各种各样的牛奶，都是安全的。我们不担心。
是的，问题的一部分是，最后一波技术浪潮的最后一波，社交媒体，我们实际上给了他们免责的通行证。第 230 条基本上是说，你的平台上发生的事情，你不负责。回想起来，我认为很多人认为这是一个错误，但这是否创造了一种不同的思维方式？这是这些公司这样做的部分原因吗？
我认为这是一个非常有趣的问题，而且这可能是其中的一部分，你知道，国会在 20 世纪 90 年代为这些新服务创建了法律责任豁免，所有这些都是为了帮助互联网及其服务更快地发展。因此，可能存在这样的风险：我们的人们，主要是在美国西海岸，他们在成长过程中没有考虑到相同的问题结构。看，特别是如果你正在创造可以说是有史以来最强大的技术，可能比技术所能带来的好处更多，但也可能造成更多伤害。最好停止。坦率地说，这很好，我赞赏人们引入评估员。我赞扬人们说也许我们应该停下来，但真正的问题是你是否应该放慢速度并停止跑得太快，并且不要等待别人让你这样做。
我想马上讲到好处，因为发生了很多有趣的事情，但是你认为我的意思是 Yatzik 描述了一个历史过程，其中有新产品，然后新产品产生影响，然后经过一段时间的监管介入。这几乎是同时发生的。您认为我们需要监管吗？如果需要，监管会起到什么作用？它会是什么样子？
看起来，在某些时候，某种类型的监管是不可避免的。嗯，我只是认为，如果你看看历史的进程和当今市场上的每一种产品，尤其是具有广泛影响的任何产品，我很欣赏甚至欢迎那些说我们不要有太重或太繁琐的监管的人。我们不要让监管减缓我们急需的创新。这些都是值得倾听的好声音，但各种各样的法规并不一定会减慢速度。本周早些时候我写了一些东西，坦白地说，这只是呼应了我们 3.5 年前写的东西，那就是，如果你曾经使用人工智能来自动化关键基础设施和自治系统等，你应该有一个紧急刹车。你应该有能力减慢或关闭它，
终止开关。
是的，我的意思是，
你认为这是个好主意吗？
绝对地。我的意思是，看，美国的每辆校车都有紧急刹车。每趟在东北走廊上行驶的火车都设有紧急制动装置。这不是科学，但也许火箭也应该有一个。我不知道。最主要的是，呃，你可能应该在不止一个地方有一个，你知道，创建模型的人应该有能力将其关闭。呃，像我们这样的云基础设施提供商应该有。对人工智能代理实施控制的人应该能够将其关闭，嗯，我认为如果我们有监管，这并不是一件坏事。这需要这样做。
如果你正在研究前沿模型，那么你需要将其交给可以测试它的人，并在广泛分发它之前看看会产生什么后果，这个暂停的概念怎么样？
我们绝对应该这样做，并且应该强调这并不是一个缺乏安全评估的行业。我的意思是，他们现在真正谈论的是独立评估员，我认为这是一件积极的事情。真正的问题是最终是否会有政府评估员，让我们在这次对话中推迟这个问题，但你知道你当然应该进行更多的安全评估，除非产品通过了这些测试，否则你不应该发布产品。我认为这是一个公平的说法。
我的意思是，这里的部分问题是，要进行明智的监管，就需要一个运转良好的政治体系，而这可以说是我们今天所没有的。我的意思是，过去几十年里你在华盛顿度过了很多时间。您认为我们有能力对此进行监管吗？
是的，我的意思是，如果我们能够监管汽车和在天空中飞行的飞机，是的，它可以随着时间的推移而建造。它需要经过深思熟虑、仔细构建，并最终如您所说，具有正确的功能。我认为这很容易。忽视这样一个事实：你知道一个没有能力的策略几乎总是会失败。目前，世界上几乎可以肯定拥有最多人工智能评估能力的政府是英国政府，嗯，你知道这是在苏纳克首相的领导下开始的，嗯，自从，嗯，你知道，在美国，我们的路线有点多，只是说上下。但你知道，美国政府的不同部门都有能力，我认为我们可能会继续投入更多资金来建设这种能力。只是
在我们开始另一件事之前，在我们开始讲好东西之前，我向你们保证，我们会讲好东西，因为我知道外面有很多好东西，好东西，但过去发生的事件的一部分。几周发生的事情只是进一步吓坏了已经害怕的公众。他们已经认为这会抢走他们的工作，现在有研究人员站出来说人类灭绝的可能性有 10%，人们正在认真对待这位研究人员。人类灭绝的概率是10%？我的意思是，这对公众的信任和信心不利，但这准确吗？
听着，我早上起床时不会认为人类有 10% 的机会灭绝，但我宁愿让我们担心太多，也不愿做得太少。我的意思是，这就像我们在谈论人类的生存，所以我认为这比最新技术更重要，天哪。嗯，所以让我们认真对待它，你知道，我认为当我们只是从正确的角度看待事物时，我认为你可以说我们可以放慢一点速度。最强大的功能，它们在今天非常强大。最新型号刚刚问世。如果我们放慢这些事情的速度，那么我们实际上应该加快其他事情的速度。我们应该加快安全步伐。我们应该加快安全科学、安全研究、嗯、安全操作、安全能力，顺便说一句，我认为我们也应该加快这项技术的扩散，所以它是我们今天拥有的技术，我们应该加快它的速度，这样它就可以被世界各地的人们更广泛地使用，以促进医疗进步、医疗保健、各个领域的创新、生产力的提高。这就是我们可以发挥作用的地方。目前有趣的事情是，到目前为止，前沿模型进展得如此之快。他们
我们有多年的工作要做，只是为了让它发挥作用。只是没有人会失去很多机会。
中国的论点又如何呢？我们是否面临着对中国构成威胁的危险？
我个人认为这是一个可以解决和管理的问题。首先，有一种思想流派，尤其是在华盛顿特区，认为，无论如何，他们只是在模仿我们。如果你真的相信这一点，那就不要给他们太多的东西让他们复制。如果你放慢速度，他们也必须放慢速度。我实际上认为中国拥有被华盛顿低估的工程专业知识，而且那里也有很多独创性。嗯，我自己不相信地球上有哪个政府真正对造成人类灭绝感兴趣。我认为如果我们总是等待下一个人，那么没有人会去。但是如果你准备好站起来做正确的事情，并且坦率地说话并提醒人们常识实际上有很多智慧。我认为人们可以激励世界并使世界团结在一起，但让我们通过领导而不是号召其他人先行或同时行动来做到这一点。好吧，让我们
我们来谈谈好东西吧。你在哪里看到了最积极的一面。人工智能给社会带来的好处，我们能做些什么来更多地关注这一点，这样人们就不会因为这项技术对他们造成的影响而陷入僵化状态？
有趣的是，当你说出你想要解决的问题时，人工智能很有可能成为解决方案的一部分。我们担心医疗保健。嗯，我们担心没有足够的医疗从业人员。嗯，这就是我们拥有系统的原因。我们碰巧在微软做了其中一个。你知道，你坐下来与医生或从业者预约，你知道他们可以使用人工智能来捕获对话，总结结果，然后医生可以去看下一个病人，花更多的时间与病人在一起，而不是写笔记。它加快了这一过程并提高了通过 X 射线发现肿瘤的准确性。嗯，或者想想今年夏天新闻中的野火。这种情况在这个国家和许多其他国家变得越来越普遍。嗯，我们与加州大学圣地亚哥分校一起创建了一个系统。在森林里，只要有瞭望塔的地方，都可以安装摄像头，使用芯片，在边缘使用 GPU。它仅花费约 18,000 美元，并且能够更快地检测野火。它基本上是通过电话进入 911 中心，更快地派遣急救人员，并在火势蔓延之前将其扑灭。
它可以拯救生命。它拯救了家园。它拯救了部分经济，无论我每天看到什么，我的意思是这都令人兴奋。我们看到人工智能可以做什么。如果我们能让更多人掌握人工智能，它可以发挥更大的作用，不仅在这个国家，而且特别是在南半球国家。你知道，我们已经看到了真正的差距。我们周一发布的最新调查显示，北半球有 29% 的人口在南半球使用人工智能。16 我确实担心，因为它在推动创新和生产力增长方面非常重要和有帮助，如果我们不更广泛地提供它，它只会永久存在，甚至可能加剧已经存在的巨大经济鸿沟。
所以，你正在与一群高级商业领袖交谈，他们都在苦苦挣扎，面临着自己的人工智能挑战。我怀疑这个群体中没有人没有看到巨大的潜力，但根据我的经验，在与这个群体中的人进行了多次对话之后，这个群体中也有很多人对释放全部潜力感到沮丧，无论是因为数据问题还是因为人员问题、人们对技术的焦虑等等。你在很多公司都看到过这一点。对于那些正在为此苦苦挣扎的人们，您最好的建议是什么？
嗯，首先，我认为这种挫败感是可以理解的，而且我认为这是我们需要做很多事情来帮助解决的问题。我认为作为微软公司，我们有责任帮助解决这个问题。在给人们的建议方面，我会提供一些建议。一是，我认为这是向员工提供的一个重要工具。因为这就是你如何在某些方面发现另一代人的创造力和创新，新一代，但也包括任何你不能的一代。预测或要求他们可能创造什么，但你发现他们做了一些令人惊奇的事情。它们帮助解决周围的业务问题，我认为这是一个很棒的工具。嗯，你确实想为此设置正确的护栏，但更重要的是，我认为真正有意义的是首先从你想要解决的业务问题开始。改善业务流程通常是首先要做的事情，然后你使用人工智能作为工具，它可以进一步改进它，当我们这样做时，我发现在某些方面最令人振奋，甚至是最鼓舞人心的。它如何开始改变人们在非常积极的方式，我认为这被忽视了，嗯，你知道它是怎么做到的吗？
好吧，我再说一遍，我认为它可以将人们从重复性的家务或可能感觉有点苦差事的任务中解放出来，他们可以提高自己的判断力。我们开始看到的第二件事，我认为如果你以十年为单位来看待它，这可能是最具影响力的事情之一。这确实是 40 年来大多数职业变得越来越专业化和狭窄。它需要如此深厚的专业知识，以至于人们的视野变得狭窄，因为他们必须不断地跟上如此深入的知识。人工智能实际上正在帮助解放这一点。我希望并且我开始看到通才的复兴，嗯，可以在人工智能的帮助下解决特定问题的人，但是一个可以采取更多主动性，应用判断，具有创造力，产生更大影响的人，我认为它开始做的另一件事是它可以使较小的团队完成更多工作。嗯，当然，如果你在一个大组织中工作，无论是政府还是公司，我我认为人们有时会遇到的挑战之一是，天哪，我必须这么做，把事情做好太难了。我必须和很多人一起工作才能完成任何事情。并且
你知道，我只是认为人们可以利用这个机会，不仅可以投资人工智能和人们的技能，还可以振兴一种文化，并实际上赋予人们在明确的道路上做得更好的能力。
它改变了您在 Microsoft 的招聘方式吗？
是的，实际上，我真正兴奋的事情之一是在各个领域，显然我们比以往任何时候都雇用了更多的软件开发人员，但几个月前我们刚刚为律师推出了一个新计划。呃，我们只是，我们只是，我们创建了我们所谓的新荣誉计划。我们雇用了第一批人。一共有 12 个，基本上我们所说的，这在很大程度上反映了这次对话，我们将更快地将人员轮换到公司的更多领域，因为要成为更好的通才。你最好接触更多类型的问题和工作方式。我们还将为您提供更多人工智能技能，以便您在职业生涯的早期就拥有这些技能。然后我认为人们发现的另一件事以及领导我们工程团队的人一直在谈论这一点是。说，这是呃，你知道一些技术，嗯，在你的空闲时间去学习它是行不通的。说“嗯，这是一门课程，试着在你的日程安排中找到时间”是行不通的。呃，你真正能从中受益最大的是，这里有一些学习内容，我们要一起去做。整个团队都会出发，这样就不会有人被打扰。我们将花费 2 或 3
几天或其他时间，然后你在那一周结束时就会拥有更多的能力。对我来说，这将是一个非凡的机会，如果我们以正确的方式做事，同时完成两件事，我会说企业可以更具创新性，更成功，但让我们以真正为人们创造更好的就业机会，更有价值，更刺激的工作的方式来做这件事，我不是在这里说，哦，喝酷爱饮料，它会味道很好，它会是所有的生活。很简单。但我认为我们应该做的根本事情不是预测，而是有很多预测。生活会变得更好吗？生活会变得更糟吗？没有人拥有水晶球。让我们定义我们想要创造的未来，然后开始建设它。
是的，我很乐意花一点时间在这上面，但我也想向小组中有疑问的人开放。我已经看到后面有人了，所以请继续。在你之前先表明你自己的身份，呃
问题。我叫 Arjan，Distill 首席执行官。嗯，首先，感谢您的愉快谈话。我有一个问题要问你，回到你提出的观点，嗯，你知道，你可以有一个终止开关，嗯，你在公共汽车上有一个紧急刹车。我担心的一件事是，这不是像公共汽车这样的产品。它实际上是一个基础设施。因此，如果您拥有基础设施，即基础设施的终止开关，那么您 90% 的业务都依赖于它。您不能因为您的业务将会下降而终止它。那么您如何看待针对此类事件的紧急制动呢？
嗯，你真正想要解决的问题是，是的，你不想破坏电网，这是一个很好的问题。你想要关闭出现故障的人工智能代理或代理系统，嗯，你想要建立数字弹性，以便你的基础设施在没有它的情况下继续运行。基本上，嗯，我认为这是一些更流行的对话中所缺少的一点。每个人都知道有人工智能模型，有芯片，还有这些作为基础设施的数据中心。但是，真正在所有这一切中重新创建的新技术堆栈包括一个非常具体的层，用于管理和控制这些人工智能代理系统，当你再次考虑时，这些部分就变成了常识。如果你要拥有一个代理，你就给它一个身份，这样你就知道如何找到它，嗯，你可以监控它。嗯，你知道，你会制定治理规则，其中包括定义它可以做什么和不能做什么、它可以访问网络的哪些部分以及不能访问哪些部分。嗯，你实际上想从财务角度来管理它，这样你就不会第二天早上上班时发现它已经用完了
你的整个人工智能代币预算。嗯，所以实际上有一个有趣的财务运营层。嗯，你想围绕它建立网络安全，嗯，你总是希望能够阻止它，嗯，你知道，一旦你把它放在这样的环境中，嗯，你知道，它实际上是一个带有软件系统的软件层。然后你知道这是正在出现的新工作之一，你知道，人们用来监视、管理和控制这些代理，你知道，我们在微软称之为 Agent 365，其他公司也开始构建类似的东西。它指出的是任何强大的东西都需要管理。我，我以前认为我们习惯于开玩笑说，哦，你知道，这些东西比人更容易管理。不清楚是这样的情况。嗯，所以你知道，就像你拥有所有这些治理系统一样，你知道，为了管理人员，你需要系统来管理人工智能代理。乔尔，
你好，乔尔·迈耶斯 (Joel Meyers)，AcuWebin 的创始人兼执行主席，精彩的评论。乔尔·迈耶斯 (Joel Meyers)，AccuWeather 的创始人兼执行主席，精彩的评论。我经常问人们，他们对 3 到 5 年后的世界有何看法，无论他们在哪个领域，既然事情发展得如此之快，那么您对 12 至 18 个月后的世界有何看法？
好吧，我，呃，我要说的第一件事是，听着，我不会在 1 月 1 日起床并预测我们会在 9 月份坐在这里，世界上正在发生的事情有一半都会发生，包括，你知道，中东的一场战争。嗯，我们知道什么？嗯，我们知道这项技术将继续变得更加强大。嗯，是的，它将传播到世界各地，美国和中国之间将会展开竞争。嗯，我认为我们可以有把握地假设，接下来的 12 到 18 个月不会给地球带来一个伟大的 kumbaya 时刻，你知道，所以我们将继续生活在一个破碎的世界中，你知道，我们将不得不处理这种强化技术。坦率地说，我们过去经常进行的地缘政治合作的缺乏，嗯，我认为这真正意味着我会说两件事。一是我认为提醒自己非常重要，我们希望每个人都牢记一些基本事实或价值观，例如不要运输危险产品。让我们，你知道，而不是，你知道，破坏我们孩子的教育
这项新技术，嗯，但是让我们想办法走到一起，而不仅仅是向政府寻求帮助，因为我认为这不会在 12 到 18 个月内发生。但如果我也环顾四周，我会指出两件事给我带来希望。一个是 6 月，教皇利奥 14 世发表了通谕，提醒人类我们需要为人工智能带来的价值观。另一个是两周前在纽约，我们与第二个签署了一项协议美国最大的教师工会 AFT，除了其他事项外，还要求我们为教师和每个学区避免创建或提供任何人工智能系统。这将培养孩子们的情感依赖或依恋。真正的重点是，我认为在未来 12 到 18 个月内，利用这项技术满足社会需求的唯一方法是首先要求业内人士进行广泛思考。保持道德，但也要建立新型合作伙伴关系，以确保新的声音。我是为工人代言的劳工组织和为人类代言的信仰机构的最重要倡导者之一。我们需要听到这些声音。和
布拉德，请在座的各位再进一步。他们经营的公司应该如何考虑自己的责任，以确保我们从这项技术中获得最好的结果并避免最坏的情况？出色地，
我认为，如果你经营一家企业，最根本的事情是，你知道，显然我的信息是不要停止使用它，因为我认为它是一个非常基本的创新和生产力工具。但请记住，它需要受到管理，因此您应该与自己的团队或与您合作的任何技术公司进行对话的一部分。什么能让这项技术处于控制之下？什么将保护我的数据隐私？我认为现在的基本问题之一是，当你使用人工智能时，确保你正在保护你自己的创新，你不会泄露你的员工的专业知识，你知道，我们越来越多地说，你知道，获取一些，获取可以改进的人工智能模型技术，并将其保留在你自己的四堵墙内，这样你就可以从它带来的创新中受益。但从某种意义上说，你把它们放在一起。技术的治理与技术本身一样重要。
布拉德，非常感谢你。对于此时此刻的这个群体来说，这是一个完美的信息。感谢您抽出时间。谢谢。