原文:Anthropic to bring back Fable 5 as US lifts export controls
Claude Fable 5 将重新部署一组新的分类器,旨在识别和阻止更广泛的网络安全相关任务。
人工智能公司 Anthropic 将恢复公众对其最强大的人工智能模型 Claude Fable 5 和 Mythos 5 的访问,几周前它们根据美国政府的指示被下线。
自 6 月 12 日起,Anthropic 的两个最新模型就受到限制,禁止公众访问,当时有报道称研究人员绕过了《神鬼寓言 5》的保障措施,政府实施了出口管制,迫使 Anthropic 立即取消了对这些模型的所有访问。 Anthropic 表示,政府于周三取消了这些限制。
Anthropic 表示:“在与美国政府进行了一系列富有成效的对话后,我们正在使用一组新的分类器重新部署该模型,以瞄准和阻止更多网络安全任务。”
专家和技术专家表示,这些模型的暂停引发了人们对国家对前沿人工智能技术的控制的担忧,并开创了一个危险的先例。出口管制还突显了白宫对如果这些强大的模型被越狱并用于恶意目的潜在的国家网络安全威胁的担忧。
部署最好的技术仍然是首要任务
美国商务部长霍华德·卢特尼克周三在 X 上表示,“过去两周,我们与 Anthropic 密切合作,分析并批准了《神鬼寓言 5》,以确保美国政府之间的协调一致,并加强美国在人工智能领域的领导地位。”
与此同时,白宫办公厅主任苏西·怀尔斯 (Susie Wiles) 在 X 上表示,政府的首要任务仍然是“尽可能快速、安全地部署最好的 [AI] 技术”。
相关:人工智能研究员声称他已经绕过了 Anthropic 的《神鬼寓言 5》护栏
这些限制是在政府得知一份报告后出台的,其中亚马逊研究人员发现了一种绕过《神鬼寓言 5》安全措施的方法,促使该模型识别出多个软件漏洞。
在一个blo