Nvidia 在柏林 GTC 上首次推出防止人工智能代理失控的平台和人形机器人设计

Nvidia (NVDA) 正在加大力度防止人工智能代理失控，并与 Agile Robots 合作开发新的人形机器人参考设计。

该公司周三在德国举行的 GTC Berlin 活动上公布了其 OpenShell 参考架构，并表示它将允许客户构建、包含和观察 AI 代理。

参考架构是服务器或其他平台的基本设计，客户和合作伙伴可以根据自己的需求进行定制。

该设置允许客户在 Nvidia 的 Vera Rubin 系统上运行人工智能模型，代理软件在该公司的 Vera CPU 上运行，而 Nvidia 的 BlueField-4 数据处理单元则充当安全卫士，在代理尝试进行不需要的操作时将其切断。

（英伟达）

该公司表示，它正在与 CoreWeave ( CRWV )、Crusoe (CUES.PVT )、Lambda ( LAMD .PVT )、Nebius ( NBIS )、Oracle Cloud Infrastructure ( ORCL ) 等公司合作推出参考架构。

英伟达首席执行官黄仁勋在一份声明中表示：“人工智能能力和安全性必须共同进步。随着企业准备部署数十亿个人工智能代理，安全和控制必须内置到计算架构中。”

“Nvidia 创建 OpenShell 是为了让代理能够在明确定义的边界内自由地做有用的工作——包含、监视和控制。借助 OpenShell 参考架构，代理可以像 Rubin 一样思考，像 Vera 一样行动，并在 BlueField 上接受管理。”

Nvidia 上个月末推出了 OpenShell 和 Nvidia Sentry 软件，称它可以防止 OpenAI 的 AI 黑客 Hugging Face 等事件。