Andrew Ng 评 Anthropic 与美国政府限制前沿模型访问的连锁影响

过去两周里，美国政府和 Anthropic 都采取了重大行动，通过限制他人对前沿模型的使用方式，展示了它们控制 AI 访问权限的权力。这是一个一旦看见就很难视而不见的时刻，它正在显著加速许多企业和国家确保获得可靠 AI 访问权的努力——这种访问权不会被任何其他人终止。

Anthropic 首先发布了 Claude Fable 5，这是其 Mythos 模型的一个附加了额外护栏的版本，其中包括一些基于安全理由看似合理的限制（例如限制将其用于黑客攻击、生物武器等）。然而，它也限制了开发者将其用于构建竞争性 LLM 技术的能力。这一举动令人担忧，因为整个 AI 社区（包括 Anthropic 在内）都从开放研究中获益匪浅——事实上，AI 革命正是由我以前的团队（Google Brain）免费发表 Transformer 论文所开启的！

试想一下，如果微软的使用条款禁止任何人使用其工具来构建竞争性软件，或者谷歌禁止利用其搜索信息来研究竞争性搜索引擎，会是什么样。Anthropic 关于让他人在 AI 上取得进展不安全的论点也显得空洞无力。起初，Anthropic 悄悄降低了被检测到正在从事 LLM 研究的用户所使用的 Fable 5 的性能，通过不可见的干预削弱了模型的输出，却不通知用户。在遭到强烈反对后，它撤回了这一决定，并决定在这样做时保持透明，但它仍然拒绝使用其最新能力来帮助 AI 研究人员。

这一举动是 Anthropic 赤裸裸的权力展示。它以“安全”为由阻碍了潜在的竞争对手。平台只有被视为稳定、可靠的合作伙伴，成为他人可以依托的基础，才能取得成功。Anthropic 突然改变规则（包括对 Fable 使用强制实施 30 天数据保留政策），让开发者不仅对 Anthropic，也对在任何一家专有 LLM 供应商之上进行构建的稳定性产生了怀疑。

随后，美国政府紧接着展示了更强大的权力。它利用商务部对可能构成国家安全威胁的技术进行监管的权限，限制了 Mythos 和 Fable 的出口，要求任何外国人（无论在美国境内还是境外，包括 Anthropic 的员工）使用时都必须获得许可证。这导致 Anthropic 对全球所有用户关闭了 Fable 的访问权限。

Sam Altman 在提到 Anthropic 时指出：“说‘我们造了一颗炸弹，我们正要把它扔到你头上。我们会以 1 亿美元的价格卖给你一个防空洞’，这显然是绝佳的营销。”但当你从事这种基于恐惧的营销时，美国政府赞同你并对你声称已造出的炸弹施加出口管制的可能性就会增加。

需要澄清的是，我不认为 Anthropic 造出了任何类似炸弹的东西，我也不认为对 Fable 实施出口管制是恰当的。

然而，在美国政府采取这一行动之后，许多国家（包括美国的盟友）都看到了美国如何能突然切断他们对 AI 模型的访问。在世界许多国家的首都，这引发了关于 AI 主权以及其他人如何确保不间断地获得这项关键技术的讨论。

几十年来，许多国家一直很放心地让本国供应链的许多环节依赖美国、中国和其他主要生产国。一旦某个国家发出威胁或采取行动，限制其他国家获取资源，其他国家就会理性地寻求替代方案。几十年来，中国的半导体制造进展缓慢；一旦美国出手限制中国获取相关技术，中国的努力便骤然提速。同样，一旦中国威胁限制美国获取稀土矿物，美国寻求替代方案的步伐也随之加快。如今，情况已变得再清楚不过：美国的私营企业和美国政府可以在短时间内限制其他国家获取前沿AI模型，这大大增强了其他国家加大对开源等替代方案投入的动力。当然，训练前沿模型并非易事，它们最终能取得多大成功还有待观察，但我们已经跨过了卢比孔河（覆水难收）。

萨提亚·纳德拉（Satya Nadella）写了一篇文章，论述在前沿AI技术之上构建健康生态系统的重要性。我由衷地赞同他的观点，并希望本周发生的事件最终能被证明是迈向这一目标的建设性一步。

我希望我们能建设一个更加自由、更加开放的世界：研究成果可以自由共享，法律和社会规范塑造出一个公平的竞争环境，让每个人都能取得进步。过去两周事件带来的一线希望是，如今所有人都更清楚地认识到当前体系中的关键不稳定因素，我们便可以共同努力，打造一个更加稳固的基础。

[原文：The Batch 通讯]