美国政府向 Anthropic 发出的执法信函，实际上迫使该公司在周末前夕将其最新的 AI 模型下线，这对任何美国科技公司——无论是不是 AI 实验室——都应该是一记警钟。

快速回顾一下这则新闻热点：周五下午，美国商务部向 Anthropic 发了一封信函，援引一项鲜为人知的出口管制指令，禁止非美国人（包括 Anthropic 的员工）访问 Fable 5 和 Mythos 5，理由是一项未具体说明的国家安全关切。Anthropic 表示，它认为这封信函与模型防护措施的绕过有关，但无法确定，因为信函未提供具体细节。该信函尚未公开。

作为回应，Anthropic 将其两款顶级模型对所有客户关闭，以确保遵守该指令。结果就是，美国政府通过一项迅速且单方面的行动，成功迫使一家科技公司将其模型下线，而该行动似乎无需法院批准。

特朗普政府周五的干预表明，AI 行业也无法免受政府干预。这也是对整个科技行业的警告：要么服从，否则我们可以让你和你的产品下线。

Axios 援引消息人士的话称，上周末这两个主要参与者之间的局势紧张，并表示 Anthropic 与特朗普政府之间的“性格差异”导致了这项出口指令，而不是 AI 产品的技术问题。

周末浮出水面的关于此事的新细节，进一步令政府本就不太站得住脚的论据更加站不住脚。

网络安全资深人士兼研究员、Luta Security 创始人 Katie Moussouris 在一篇博客文章中表示，Anthropic 最近与她分享了一份由安全研究人员撰写的论文的私人副本，该论文描述了 Fable 5 中所谓的防护措施绕过行为。（《华尔街日报》报道称，该论文的作者是 Amazon 的安全研究人员。）Moussouris 表示，Anthropic 曾联系她，希望听听她对这篇论文的看法。

Moussouris 的博文描述了研究人员如何触发护栏绕过，但表示该绕过行为“本身绝不应该触发出口管制”。区别主要在于，要求 AI 模型“审查代码的安全问题”与要求它“修复这段代码”之间。最终结果大致相同，即使提问方式略有差异。

Moussouris 表示：“论文中描述的行为无法被有意义地修复，任何尝试都只会削弱模型在防御方面的能力。”他批评该出口管制指令仓促、强硬且不恰当。

Moussouris 与其他数十位顶尖安全研究人员和专家随后呼吁特朗普政府撤销该出口管制令，称剥夺美国网络安全防御者先进网络安全能力的举动是“危险的”。

过去几届政府在知识空白方面也曾做出过宽泛的决定。例如，美国政府在 2010 年代用于修改涵盖可能被用于网络攻击的网络安全工具的出口法律时，措辞过于宽泛，以至于无意中几乎将合法的安全研究和漏洞研究定为非法。

然而，特朗普政府的指令似乎带有报复性质。

Tech Policy Press 编辑 Justin Hendrix 表示，特朗普政府的举动“可能会引起外国首都对美国人工智能在关键应用中可靠性的担忧”。其传递的信息是，不能指望美国的人工智能公司在美国政府不干预的情况下运营。

特朗普政府尚未确认为何动用其出口管制指令。是官员们误读了报告并惊慌失措？是亚马逊 CEO Andy Jassy 出于谨慎或恶意向政府高官说了什么，从而引发了这一反应？是翻译过程中出现了问题，还是这不过是一种向 Anthropic 施压的方式——该政府与 Anthropic 的关系本就紧张？白宫可能并未意识到该信函要求可能带来的深远后果，官员们正在急于弥补自己造成的损害。

借用亨德里克斯的话来说，“现在的氛围是一种猜疑之云，即高层官员正基于个人和政治因素偏袒某些对象。”其后果是，政府就其对美国制造的软件发布所意图行使的控制程度，树立了一个危险的先例。

这次政府与 Anthropic 产生了分歧；明天它可能针对其他任何人。

话题