在其安全团队被人工智能生成的报告淹没后，苹果公司限制了研究人员一次可以提交的漏洞报告数量，这些报告发明了不存在的缺陷。
这顶帽子已经花了它一顶真正的帽子。总部位于米兰的网络安全初创公司 Bynario 告诉该报，他们使用 OpenAI 的 ChatGPT 在三周内发现了最新版本 macOS 中的 50 多个错误。其中包括特权升级漏洞利用链，这是一类使攻击者能够不受限制地控制机器的缺陷。
Bynario 无法报告这一情况，因为苹果已经拒绝了进一步的提交。首席执行官 Alfredo Pesoli 认为该漏洞在犯罪市场上的价值在 10 万至 20 万美元之间，并表示“维护者和供应商已经被被发现的大量错误淹没”。苹果公司告诉英国《金融时报》，它现在正在与该公司联系并审查其工作。
苹果在 6 月份采取了行动，在其安全门户上增加了上限和 30 天的冷静期，研究人员需要申请更大的配额。尽管苹果正在内部使用人工智能来对这些缺陷进行分类，但每一个所谓的缺陷仍然需要人工来确认。苹果表示，它“最近调整了研究人员可以立即打开的新报告的数量”，并且研究人员可以随时要求更高的限制。
同样的工具也适用于苹果公司。据英国《金融时报》报道，在上周的安全更新中，它认为 Anthropic 和 OpenAI 软件存在缺陷，并进行了大约五倍于正常周期的修复。
“提交洪水”
近几个月来，人工智能错误报告量有所增加。 5 月份，OpenAI 等客户的安全公司 Bugcrowd 表示，3 月份三周内通过其平台提交的内容增加了四倍多，而且大多数都是假的。 HackerOne 和 Nextcloud 在 4 月份暂停了他们的付费项目，Nextcloud 表示，在找到一种过滤低效报告的方法之前，“无论严重程度如何”都不会支付任何奖励。
这一数量是由所提供的奖励推动的，Meta、微软、苹果和 Crypto.com 到 2025 年至少支付 5800 万美元，而苹果自己的顶级公司为一项发现支付了 500 万美元。
与此同时，法学硕士越来越善于发现错误。今年 3 月，Anthropic 推出了 Mythos，这是一种以网络为中心的模型，最初仅限于 Glasswing 项目下的选定技术公司、银行和研究人员。 Mozilla 表示，在内部测试期间，它发现了 Firefox 中的 271 个漏洞。
今年 5 月，总部位于越南的安全初创公司 Calif 表示，它已使用预览版本构建了第一个公开的 macOS 内核内存损坏漏洞，能够通过内存完整性强制执行，苹果去年 9 月宣布的防御措施是消费操作系统历史上最大的内存安全升级。 Calif 于 4 月 25 日发现了这些漏洞，并于 5 月 1 日发现了可用的漏洞。
加州并没有提交报告，而是亲自将这一漏洞带到了苹果加州总部，称其希望避免“被埋没在黑客竞赛 Pwn2Own 的参赛者陷入的提交洪流中”。三个月后，Bynario 尝试了该门户，但无法进入。
人工智能加密威胁
除了追捕威胁外，人工智能还被用来设计加密领域的漏洞。 Coldcard 钱包制造商 Coinkite 表示，人工智能很可能被用来发现其开源固件中的一个错误，该错误五年来一直未被注意到，使攻击者能够从其硬件钱包中窃取超过 1 亿美元。
两个月前，Zcash 披露，研究人员 Taylor Hornby 与 Claude Opus 4.8 合作，在其 Orchard 屏蔽池中发现了两行代码，允许在四年内无法检测到 ZEC 的伪造行为，促使隐私币上个月推出 Ironwood 升级以解决该漏洞。