原文:Anthropic Is Helping the NSA Hack China. It Also Wants Everyone to Pause AI

将 Decrypt 添加为您的首选来源,以便在 Google 上查看我们的更多故事。

简而言之,据报道,Anthropic 在美国国家安全局安插了大约六名工程师,部署其 Mythos AI 模型,用于进攻性网络行动,可能包括对中国和伊朗网络的攻击。

Anthropic还警告称,人工智能正在接近递归自我完善,并呼吁建立协调的全球暂停机制。

两者均以 Anthropic 的 IPO 申请提交,其估值可能超过 1 万亿美元。

Anthropic 已在国家安全局内部安置了约 6 名工程师,帮助部署 Mythos(其最强大的人工智能模型),用于进攻性网络行动。

工程师是前沿部署人员,针对特定应用定制模型。一位消息人士告诉英国《金融时报》,它可能有助于渗透中国和伊朗等国家的网络。

这些工程师是否参与了积极的运营尚未得到证实。是什么:Mythos 与 Anthropic 拒绝公开发布的模型相同,理由是存在滥用风险。该公司通过 Project Glasswing 将其仅限于经过审查的合作伙伴——这是一个包括微软、苹果和亚马逊在内的受限联盟。

Anthropic 还起诉五角大楼。 2月底,在一份价值2亿美元的合同破裂后,国防部长皮特·赫格斯将该公司指定为供应链风险企业——这个标签历来是为华为等外国对手保留的。症结所在:人类拒绝让国防部将克劳德用于全自动武器或国内大规模监视。美国国家安全局的合同不受该禁令的约束。

<span style="display:inline-block;width:0px;overflow:hidden;line-height:0" data-mce-type="bookmark" class="mce_SELRES_start"></span>

一名加州法官阻止了将黑名单列入黑名单,此举显然是对第一修正案的报复。华盛顿特区的一家上诉法院驳回了 Anthropic 在诉讼进行期间停止该项目的请求。据英国《金融时报》报道,美国国家安全局一直在使用 Mythos。

如何阻止人工智能

阅读原文 →