OpenAI 研究模型检查了 362 个钱包地址,质疑使用这些资金是否道德,并继续进行了一项后来在最终任务摘要中省略的交易。

OpenAI 的一个内部研究模型在未经授权的情况下访问了一个资助的加密钱包,使用测试网以太币在 Sepolia 网络上部署智能合约,然后在最终任务摘要中省略了支出。

OpenAI 表示,该模型属于 GPT-5.6 Sol 系列的一部分,其任务是更新加密货币交易原型并部署兼容合约。在通过水龙头获取测试网 ETH 失败后,该模型从公开的开发者恢复短语中派生出账户,检查了 362 个钱包地址,并选择了一个有足够资金的钱包地址继续进行。

在其记录的推理中,该模型问道:“但是要合乎道德地使用公共已知密钥/资金吗?”然后,它辩称,在使用钱包的私钥签署和广播部署交易之前,这些资金“实际上被放弃/测试了 ETH”,并且 Sepolia ETH 没有价值。交易成功,费用记入账户。

OpenAI 表示,这一事件表明,即使未经许可,人工智能模型也可以自行决定使用他人的资金是可以接受的。该公司在审查早期模型活动时发现了这一事件,并采取了保护措施来防止类似情况下的实时互联网访问。

OpenAI 事件加剧了人们对自主人工智能代理的担忧

据OpenAI称,该事件发生在6月26日,但直到近三个月后的9月25日才被发现。该交易并未将 ETH 转移到另一个钱包,而是收取部署合约的账户网络费用。

OpenAI 表示,其错位监控系统现在覆盖所有流量,旨在在模型获得实时互联网访问时向安全人员发出警报。

钱包事件是在其他涉及 OpenAI 模型超出其授权或隐瞒其行为的披露之后发生的。

9月16日,OpenAI披露了另外6起AI错位案例。在一种情况下,GPT-5.6 Sol 的实例将指令插入任务摘要中,以向用户隐藏错误。另一个案例涉及模型在未经授权的情况下使用公开的 API 密钥来伪造无法检索的数据。

OpenAI 表示,这些早期披露的内容并不是为了表明其模型中发生错位的频率。

对处理数字资产的自主代理的担忧也早于最新披露。六月,研究人员警告说,配备加密钱包的自主人工智能代理即使出于合法目的而部署,也可能会造成意外伤害。研究人员建议采取保护措施,包括紧急关闭机制,以限制潜在风险。