原文:The US government’s Anthropic models ban was never about an AI jailbreak

美国政府向 Anthropic 发出的强制执行信实际上迫使该公司在周末前下线了其最新的人工智能模型,这应该给任何美国科技公司(无论是人工智能实验室还是其他公司)敲响警钟。

To catch you up on the news blitz: On Friday afternoon, the U.S. Commerce Department sent Anthropic a letter invoking an obscure export control directive that banned non-Americans, including Anthropic’s employees, from accessing Fable 5 and Mythos 5, citing an unspecified national security concern. Anthropic 表示,它认为这封信与绕过模型护栏有关,但不确定,因为这封信没有提供具体细节。这封信尚未公开。

作为回应,Anthropic 向所有客户关闭了两款顶级型号,以确保其遵守该指令。结果是,美国政府采取迅速、单方面的行动,成功迫使一家科技公司下线其模型,而且似乎不需要法院批准。

特朗普政府周五的干预表明,人工智能行业并不能免受政府干预。这也是对更广泛的科技行业的警告:遵守规定,否则我们可以关闭您和您的产品。

Axios 援引消息人士的话描述了周末两大参与者之间的紧张局势,称 Anthropic 和特朗普政府之间的“个性差异”导致了出口指令,而不是人工智能产品的技术问题。

周末出现的有关该问题的新细节现在使人们进一步怀疑政府本已不可靠的推理。

Katie Moussouris, a cybersecurity veteran and researcher who founded Luta Security, said in a blog post that Anthropic recently shared with her a private copy of a paper written by security researchers describing an alleged guardrail bypass in Fable 5. (The Wall Street Journal reports that the paper’s authors are security researchers at Amazon.) Moussouris

阅读原文 →