英伟达首席执行官黄仁勋：“我们必须加速人工智能安全”

英伟达 (NVDA) 首席执行官黄仁勋表示，继今年夏天有关来自领先实验室的人工智能代理突破遏制并侵入包括 Hugging Face 在内的网站的消息后，人工智能行业需要关注安全问题。

“这不应该发生。也不需要发生，”黄仁勋在 Nvidia 的 GTC 柏林会议上告诉 Deirdre Bose。

在周三的主题演讲中，黄仁勋透露了 Nvidia 的 OpenShell 参考架构，该公司表示该架构将允许客户构建、包含和观察人工智能代理。英伟达表示，如果特工试图作恶，系统可以进行干预并阻止它。

“Hugging Face 开发了一个练习、一个模拟器，他们得出的结论是：如果 OpenShell 存在，他们的网站就不会受到那样的攻击，”黄说。

“我们必须加速人工智能安全，安全技术和能力对我来说是一回事……只要它有能力，你就希望它是安全的。两者实际上是一回事。所以在未来，当我们开发这些人工智能能力时，安全也会随之而来，”他补充道。

（英伟达）

这位首席执行官表示，这项工作的一部分归结为围绕人工智能代理建立一个零信任系统。零信任是一个通过限制连接系统与其他平台的接触并要求人员和平台定期验证其身份来保护连接系统的框架。

人们认为，这样做可以减少遭受黑客攻击和其他网络攻击的风险。

“这些代理是自治系统，当你的计算机上有一个自治系统时……你应该首先从零信任开始，并给予它最低限度的特权、最低限度的访问、最少的工具使用，”黄解释道。

“也许他们可以访问文件，但他们无法删除该文件。也许他们可以访问互联网，但他们不能……发送东西。因此，你可以指定很多不同的东西。这些关于如何部署代理和部署自治系统的实践[必须]立即全面采用。”

Huang 表示，Nvidia 正在与 100 多家公司合作开发使用 OpenShell 管理 AI 代理的功能。

“我们正在与所有实验室和所有操作系统公司合作。我认为[黑客事件]很不幸，但我认为这对整个行业来说具有很大的变革性，”他补充道。