Nvidia 正在推出两款开源软件安全工具，旨在控制人工智能代理可以实时访问的内容，并在它们违反规则时将其关闭。该公司表示，这将可以防止 OpenAI 人工智能模型最近备受瞩目的 Hugging Face 违规事件。尼尔·坎普林在彭博电视台进行报道。
英伟达推出新工具，旨在防止人工智能代理误入歧途。
此举是在安全漏洞引发人们对人工智能安全的担忧之后做出的。
让我们从彭博社的尼尔·坎普林那里了解更多。
尼尔，这一切是如何运作的？
最终 Nvidia 能够制造出这些工具并且现在他们要阻止人工智能的失控是那么容易吗？
呃，是的，我是说他们，我认为这是一件大事。嗯，他们推出了这种新的双层人工智能安全系统。
嗯，它说它可以防止最近一些备受瞩目的违规行为，例如引起广泛关注的 Hugging Face 违规行为。
因此，通过使用它的尖端实验室技术，我认为能够构建一个可以控制这些人工智能模型的大型系统。
所以，如果这个，如果这个工程解决方案是一种呃，基本上就结束了这些安全问题。我的意思是，鉴于我们对这些安全漏洞有如此多的担忧，这可能是巨大的。
所以，是的，随着我们获得有关该技术的更多细节，我认为这可能对整个人工智能行业来说是一个真正的重要时刻。
是的，如果这就是听起来的解决方案，那么当然就是这样。但我们是否知道它是否适用于所有人工智能模型，例如人类学、开放人工智能、元模型以及所有法学硕士？
是的，老实说，我们还不一定知道这一点。现在，我们确实知道它运行在 Nvidia 自己的 Vera CPU 上。
嗯，我们也知道它允许用户设置规则，并且它使用的软件是开源的。
因此它可以潜在地使用并相应地适应其他系统。
所以，我们可能还没有技术细节，但这可能是，嗯，如果它是开源的，就像他们在软件方面所说的那样，那么你可以将该工程整合到软件和硬件平台中，那么这很可能是所有呃人工智能模型向前迈出的一大步。