原文:OpenAI launches new initiative to help find and patch open-source bugs

OpenAI 周一宣布了一项新计划,旨在帮助开源社区改进其网络安全游戏并防止错误。

“Patch the Planet”(这是 1995 年电影《黑客》中的标志性口号“Hack the Planet”的暗指)将看到 OpenAI 与安全公司 Trail of Bits 合作,帮助开源维护者保护他们的项目。

OpenAI 表示,Trail of Bits 的安全人员将直接与开源维护人员合作,审查潜在的代码问题。 OpenAI 的安全工具(例如 Codex Security)将用于协助这一过程。

OpenAI 周一表示:“许多维护人员已经被要求在同样有限的时间和资源下更快地整理更多报告。” “Patch the Planet 的构建是为了减轻这种负担,而不是增加负担:安全工程师在发现结果到达维护人员之前对其进行审查,与项目合作开发补丁和测试,并构建可重用的工作流程,帮助团队在第一个修复完成后继续提高安全性。”

换句话说,Trail of Bits 工程师的功能或多或少类似于代码 EMT——帮助开源项目维护人员识别和分类潜在问题,所有这些都得到 OpenAI 软件的支持。这听起来像是一个雄心勃勃的项目,而且还不清楚它的长期运作方式,或者计划如何扩大规模(如果有的话)。

开源项目是商业软件行业赖以生存的数字基石,但不幸的是,由于该生态系统结构分散且监控不力,许多软件都是不安全的。开源项目中的错误可能会变成商业代码库的主要问题。几年前的 log4j 崩溃就是一个很好的例子,当时在一个广泛使用的开源实用程序中发现了一个严重漏洞。

围绕 Mythos(Anthropic 广为人知的安全工具)等工具的大部分担忧似乎源于这样一个事实:人工智能现在可以自动识别 exi

阅读原文 →