原文：Microsoft, Google, xAI give US access to AI models for security testing
几天前，五角大楼宣布与七家科技巨头达成协议，在机密系统中使用人工智能。
科技巨头微软、谷歌和 xAI 表示，他们将允许美国联邦政府使用其新的人工智能模型进行国家安全测试。
美国商务部人工智能标准与创新中心 (CAISI) 周二宣布了这项协议，因为人们越来越担心 Anthropic 新推出的 Mythos 模型可能为黑客提供的功能。
根据新协议，美国政府将被允许在部署前评估这些模型，并进行研究以评估其能力和安全风险。
该协议履行了美国总统唐纳德·特朗普政府在 7 月份做出的承诺，即与科技公司合作，审查其人工智能模型是否存在“国家安全风险”。
微软在一份声明中表示，将与美国政府科学家合作，“以探测意外行为的方式”测试人工智能系统。该公司表示，他们将共同开发共享数据集和工作流程来测试公司的模型。
声明称，微软与英国人工智能安全研究所签署了类似协议。
华盛顿越来越担心强大的人工智能系统带来的国家安全风险。通过确保尽早获得前沿模型，美国官员的目标是在这些工具广泛部署之前识别从网络攻击到军事滥用等各种威胁。
最近几周，包括 Anthropic 的 Mythos 在内的先进人工智能系统的开发在全球范围内引起了轰动，其中包括美国官员和美国企业界，因为它们增强了黑客的能力。
广告
CAISI 主任 Chris Fall 在一份声明中表示：“独立、严格的测量科学对于理解前沿人工智能及其对国家安全的影响至关重要。”
此举建立在总裁 J 领导下与 OpenAI 和 Anthropic 签订的 2024 年协议的基础上