本周，超过 40 家比特币和加密货币公司要求最大的人工智能实验室允许独立安全研究人员在公开发布之前使用他们最强大的模型。
这封信于 8 月 10 日发表，其基础是一个简单的不对称性。比特币网络保护了超过一万亿美元的安全，而更广泛的堆栈——钱包、签名设备、图书馆、托管系统——则持有数万亿美元。该代码是公开编写的，一个错误就可以消除某人的积蓄。
然而，维持其运行的维护人员却无法参与人工智能实验室运行的经过审查的研究人员项目。当他们寻求公共模型时，护栏就会阻止对缺陷的合法搜寻。因此，他们依靠可以自行运行的开放权重系统，这很有用，但落后于前沿技术和攻击加密货币网络的黑客。
信中写道：“很明显，早期访问和合理的计算预算将帮助核心开发人员生成更安全的代码，并在损失发生之前识别和修复漏洞。” “因此，我们要求前沿人工智能实验室为开源金融基础设施的合格捍卫者建立或扩大常设可信访问计划。”
这封信指出，实验室和一些合作伙伴先于世界其他地区提前几个月了解了新的攻击能力，而这些能力无论如何都会通过公开发布和受损系统而逃脱。
实验室尚未承诺
上个月底，比特币安全联盟——BlackRock、Coinbase、Strategy、Anchorage、ARK、Block、Blockstream、Fidelity Digital Assets 和 Galaxy——承诺为网络的长期安全投入 1500 万美元。这封信针对的是一个不同的差距：不是为明天的威胁提供资金，而是为维护人员修补当今的模型提供资金。
截至今天，大型人工智能实验室尚未就这一特定主题公开发表任何立场，但是，这些公司正在研究更好的保护措施，以防止其模型的能力被用于恶意目的，无论是用于区块链编码还是任何其他用途。
Anthropic 展示了相同的模型如何支持“氛围黑客”（犯罪分子在人工智能的帮助下进行实时比特币赎金攻击），并表示这些工具可以降低攻击成本。为防御者提供更强大的模型意味着选择符合条件的人并相信他们不会泄密。
这封信要求实验室无论如何都要冒这个风险。