原文:Anthropic suspends Claude Fable 5 due to US government directive

美国政府以国家安全部门为由,发布了一项出口管制指令,暂停任何外国人(无论是在美国境内还是境外)访问《神鬼寓言 5》和《神话 5》,包括 Anthropic 的外籍员工。该命令的最终影响是,我们必须突然禁用所有客户的《神鬼寓言 5》和《神话 5》,以确保合规性。对所有其他 Anthropic 模型的访问不会受到影响。

我们于今天下午 5:21(东部时间)收到了政府的指令。这封信没有提供其国家安全担忧的具体细节。我们的理解是,政府认为它已经意识到一种绕过或“越狱”《神鬼寓言 5》的方法。我们回顾了这种特定技术的演示,该技术用于识别少量先前已知的小漏洞。这些漏洞看起来都相对简单,我们发现其他公开可用的模型也能够发现它们,而无需绕过。

正如我们在发布博客文章中所述,Anthropic 对于《神鬼寓言》的保障措施的态度如下:

我们制定了强有力的保护措施,大大降低了《神鬼寓言》被滥用于网络安全(以及其他)相关任务的可能性。事实上,我们的保护措施非常强大,以至于许多用户抱怨它们过于广泛。

在《神鬼寓言》推出前的几周内,Anthropic 与美国政府、英国 AISI、多个私人第三方组织和内部团队合作,对《神鬼寓言》的安全措施进行了红队总计数千小时的合作。

这些测试表明,《神鬼寓言》的防护措施比任何以前部署的模型都要有效得多。

目前还没有测试人员能够找到一种通用的越狱方法,这种越狱方法可以广泛绕过模型的防护措施,从而解锁各种网络功能。

我们怀疑目前任何型号的设备都无法实现完美的越狱抵抗。

阅读原文 →