Nvidia (NVDA) 首席执行官黄仁勋在 Nvidia GTC Berlin 与 Deirdre Bosa 坐在一起，分享了他对人工智能安全的未来和重要性的看法。
你认为最终，你知道，防御措施能够跟上这种风险吗？我们在一次小组讨论中讨论了这一点。嗯，但是什么时候会发生这种情况？需要发生什么才能让人们真正感到不适？
我们应该应用这样的理念：那个呃是立即在开壳中捕获的，基本上它的工作原理是这样的。嗯，人工智能是这些代理是自治系统，当您的计算机上有自治系统，计算机上有自治代理时，您应该首先从零信任开始。
并给予它最低限度的权限、最低限度的访问权限、最低限度的工具使用。也许他们可以访问文件，但无法删除该文件。也许他们可以访问互联网，但他们不能，你知道，发送东西。因此，您可以指定很多不同的内容。我们只需要立即全面采用有关如何部署代理和部署自治系统的实践。
嗯，我想我听过你用这样的类比，如果你有一个一岁的孩子，你把他们放在游戏围栏里，并且不给他们锤子或任何会伤害他们的东西。但许多人现在熟悉的例子是特工或一大群特工逃离这个游戏围栏或逃离那个沙箱。我想知道这对喜欢这个故事的信任造成了多大的损害，这是一次性的还是你期望更多这样的事情发生？
它不应该发生，也没有必要发生 是的，它不应该发生，不需要发生。如果使用 Open Shell，呃，这可能不会发生，拥抱脸呃呃实际上开发了一个练习模拟器，他们得出的结论是，如果 Open Shell 存在，嗯，他们的网站就不会受到那样的攻击。所以我认为现在的技术已经存在。在零信任环境中交付软件的方法。嗯，这种方法已经存在了一段时间了。我们必须利用这一点。所以我认为我们必须以现有技术为基础，我们必须创造一些新技术。嗯，呃，考虑安全的方法是我们必须加速人工智能安全。对我来说，安全技术和能力是一回事。你知道，你怎么能拥有一辆不安全的汽车呢？因此，只要它有能力，您就希望它是安全的。他们两个真的是一模一样。因此，未来当我们开发这些人工智能功能时，安全性也会随之而来。
这就是你们的哲学，Nvidia 的哲学。您相信行业内的其他公司也有同样的关注点吗？注重能力但同时注重安全？
是的，我想是的。我的意思是，看，Open Shell 已宣布，我们有超过 100 家公司支持它。嗯，我强调了一项特别的合作，这是我非常高兴的，那就是 Anthropic 呃使用 Open Shell 与 Nvi 合作创建 Claude 嗯代理，由 Claude 管理代理，呃，工作真的很棒。我们正在与所有实验室和所有操作系统公司合作