Nvidia ( NVDA ) 首席执行官黄仁勋周三在该公司的 GTC 柏林活动上发表了主题演讲，其中解释了 Nvidia 的新 OpenShell 平台如何减轻 AI 代理自主固有的风险。
代理是自治的，它是自治系统，可以访问文件、资源、网络和工具。
我们需要确保我们为这个自治系统提供的特权是最小的。
我们不断监控它。
我们推出了一个出色的新产品、一个新平台，它被称为 Open Shell。
Open Shell 来得正是时候。这是一个安全的运行时，提供了我刚才提到的功能。
并有一个额外的基于硬件的监视器。在向您解释之前，让我们先观看一个视频。
企业正准备部署数十亿个人工智能代理。
为了发挥作用，他们需要推理、计划、使用工具、访问数据并一起工作。
如今，阻止特工滥用所有这些的唯一方法就是善意地提出要求。
请不要删除任何东西。
请不要强求。请不要碰我的 SSH 密钥。
那是请不要接近，但希望并不安全。
安全不是一个愿望。
这是技术和工程。
Nvidia Open Shell 和 Century 将这一理念付诸实践。
您为每个代理可以接触的内容编写策略，Open Shell 在系统调用、文件访问和网络连接的粒度上强制执行该策略。
形式验证会根据您的权限上限检查每项策略更改。
因此，代理永远不会获得比预期更多的访问权限。
这就像早期的互联网。
在浏览器对网页的功能实施严格限制之前，病毒无处不在。
Open Shell 对代理执行相同的操作。执法发生在代理人之外，而不仅仅是在LLM护栏内，
将代理本机安全性引入您的基础设施。
每个代理都在自己的隔离沙箱内运行，没有到网络的直接路由。
每个出站网络请求都会通过沙箱外部的主管。
它根据您的策略检查操作。
如果不允许，就会被拒绝。密钥由主管保管在室外，并且仅在前往批准端点的途中添加。
受感染的代理无法泄露它从未拥有过的密钥。
网关是控制平面。
主管做出决定。
沙箱保存代理，策略证明者根据您的权限上限检查建议的策略。
Open Shell 将 Linux 内核隔离与运行时策略实施相结合。