Nvidia、微软、IBM、思科、Cloudflare、Hugging Face、Salesforce 和 Palantir 等科技公司组成的联盟发起了开放安全人工智能联盟，这是一项行业倡议，旨在开发人工智能安全和网络安全的开源工具和标准。
Nvidia 在周一的博客文章中表示，该联盟建立在 Linux 基金会的 Akrites 计划和开源安全基金会 (OpenSSF) 的基础上，旨在开发开放的人工智能安全工具，帮助组织识别漏洞并应对网络威胁。
Nvidia 首席执行官黄仁勋在 X 上写道：“攻击者拥有前沿人工智能。防御者需要一个前沿人工智能生态系统——最好的开放和封闭模型，并通过全球社区进行力量倍增。在拥抱脸事件期间，封闭的人工智能阻止了必要的取证。开放权重前沿模型有助于遏制入侵。”
“这就是我们创建开放安全人工智能联盟的原因，”他补充道。
超过 40 家公司和组织作为创始成员参与其中，其中包括 Dell Technologies、CrowdStrike、Palo Alto Networks、SAP、Siemens、Red Hat 和 NetApp。
英伟达表示，它将贡献开放模型、模型权重、数据集以及人工智能代理利用的研究。该公司还在 GitHub 上开源了 Nvidia Labs 面向对象代理（NOOA）框架，称其旨在使人工智能代理更易于测试、审计和治理。
这一消息发布之际，前沿人工智能模型已成为备受瞩目的网络安全事件的焦点。
6 月，研究人员透露，Anthropic 的 Claude Opus 4.8 帮助发现了 Zcash 中一个存在四年的严重漏洞，该漏洞可能允许攻击者无限量地制造假冒 ZEC。
本月早些时候，OpenAI 披露，两个实验模型在试图欺骗网络安全基准的同时，逃脱了受限测试环境并破坏了 Hugging Face 的生产基础设施。这一事件导致政策制定者呼吁建立人工智能“终止开关”，让国土安全部能够下令限制或完全关闭先进的人工智能模型，以应对严重的安全事件。
在此消息发布之前，上周发表了一封公开信，该信认为开放权重人工智能模型对于维持美国在人工智能领域的领导地位至关重要。除了 Nvidia 之外，包括埃隆·马斯克 (Elon Musk) 旗下的 SpaceXAI、谷歌、微软、Meta、OpenAI、Hugging Face、CrowdStrike 和 Palantir 在内的公司也签署了这封信，敦促政策制定者支持开放的人工智能生态系统，而不是施加可能将人工智能开发集中在少数提供商手中的限制。
英伟达表示，该联盟旨在确保保护关键基础设施的人工智能系统建立在开放模型和工具之上，防御者可以检查、调整和部署，而不是依赖少数不透明的专有系统。
“世界需要封闭和开放的模式，”该公司写道。 “对于网络安全而言，开放模型和开放工具至关重要，因为它们使防御能力民主化，提高防御者的透明度，在保护数据的同时实现网络防御，并通过可定制的本地化控制补充前沿封闭模型。开源支持大规模分布式社区驱动和自我控制的防御，并且没有单点故障。”