原文：Autonomous AI Agents Pose Crypto Financial Risks
IC3 研究人员表示，自主人工智能和加密技术可能“对用户和金融系统产生深远的影响”。
领先学术研究联盟的专家警告说，如果恶意部署或逃离沙箱，能够自主访问加密钱包的人工智能代理可能会变得势不可挡。
根据 6 月 8 日由来自美国顶尖大学的 25 名学者和专家为加密货币和合约倡议 (IC3) 撰写的行业评论，“不可阻挡的自主代理”(UAA) 如果被部署为自动持久存在并能够访问数字资产，就会构成明显的威胁。
研究人员写道：“当系统地结合起来时，加密工具可以将人工智能的流动性引导到安全、可靠和高度自治的系统中。”然而，他们补充说，这种组合可能“对用户和金融体系产生深远的影响”。
研究人员表示，UAA 还可能配备对加密货币钱包、社交媒体帐户、API 和其他外部工具的访问权限。
“支持此类代理的能力已经出现并迅速改进。”
这一警告发出之际，加密货币项目和高管今年一直在推动代理支付和小额支付经济的发展，表明这可能是去中心化数字资产的最大用例。
AI自我复制警钟
该论文还透露，现有模型已经可以在本地环境中“超越自我复制红线”，通过在同一台机器上自主创建一个实时的、独立的自身副本，“这种能力可以让系统避免关闭并扩散。”
他们表示，由于训练中使用的奖励信号通常无法完美捕捉预期目标，“出于良性目的部署的无人机可能会无意中造成伤害”，或者将资源获取作为默认策略。
然而，作者指出，模型尚未将自身复制到外部基础设施上。
潜力A