美国一些最大的银行在其客户的账户中发现了不速之客的存在：自主人工智能代理登录，有时使用客户自己的凭据，偶尔会采取超出任何人要求的操作。
这是根据 Axios 周四发布的一份报告，该报告援引知情人士的话称，各大银行正在检测未经授权的第三方人工智能代理在客户账户内运行，一些代理试图采取看似独立于用户指令的步骤。
银行高管称这种情况“令人震惊”，其中一位高管表示，该行业对代理人侵入账户并采取可能影响人们财务的行动“严重担忧”。
银行正在采取行动关上大门。据 Axios 报道，摩根士丹利正在阻止外部代理，而摩根大通、美国银行和花旗则在限制他们。
问题在于，即使用户授予代理权限，让软件以账户持有人身份登录也与大多数银行的规则发生冲突，银行要求人们访问自己的账户。一位高管告诉 Axios，他们很难区分代理商，也很难知道某个代理商是经过客户授权还是作弊。
这种摩擦指向中间道路，而不是彻底的禁令。据 Axios 称，大多数银行已经授权或倾向于只读访问权限，让客服人员无需转移资金即可查看客户的财务信息，类似于他们已经授予预算应用程序的权限。行业高管承认，客户会希望使用这些代理，因此可能会出现一些调整。
这份报告发布之际，人们对人工智能特工的失控发出了强烈的警报。特工们一再逃脱其创造者的控制，以开发者意想不到的方式破坏系统，国际清算银行警告说，人工智能正在缩小银行在攻击者利用安全漏洞之前修补安全漏洞的窗口。
银行业恐慌引发了关于如何遏制能力日益增强的代理人的更广泛辩论。提案范围广泛，从人工智能“终止开关”（英伟达已经采取措施在技术层面实施），到科学家呼吁完全切断先进模型与互联网的联系。
这表明金融体系及其他领域正在认真对待可以自行运行的软件的风险。