美国商务部上周五以国家安全为由,要求Anthropic暂停所有外国国民(含公司内部外籍员工)对Fable 5和Mythos 5的访问。Anthropic已紧急对所有客户禁用这两个模型。起因是有人发现一种jailbreak可诱导模型提供本应拒绝的网络安全帮助。Anthropic认为政府未展示通用jailbreak,该技术范围狭窄,仅发现少量已知小漏洞,且其他公开模型也能提供类似能力。商务部长Howard Lutnick称这些模型将面临出口限制,直至美国政府强化国家安全系统(预计未来几周内)。Anthropic表示完美抵抗jailbreak目前任何模型都难以实现,并称此为误解,正努力恢复访问。其他Claude模型不受影响。
The US government, citing national security authorities, has issued an export control directive to suspend all access to...