Nathan Lambert 质疑 Anthropic 对 GLM-5.3 的安全叙事

唉。

我写了下面这篇帖子，但后来没有发出来，因为我厌倦了那些和 Anthropic 持相同安全观的人一再给我的反驳。看来这意味着我还是该把它发出来。那就发吧！

这篇帖子相当自我中心，没有把近期的网络安全风险事件纳入讨论。看到美国的前沿实验室（比如 Anthropic）没有能力去考虑其他安全思路以及事情可能的发展走向，这真的让我很难受。

它暗示 Z ai（一家中国实验室，开发 GLM 系列）其实并不真正关心安全，采取其商业策略是鲁莽的。

一边说着「鉴于这些证据，我们认为国家和非国家行为体都很可能会利用 GLM-5.3 这类模型造成现实世界的危害」，以及「这与任何其他同等能力的 AI 模型都不同，那些模型发布时都带有安全防护措施或通过受限访问计划提供」，一边却无视闭源模型被用于更多已记录的网络攻击这一事实，这无非是在回避那个真正有意思的问题。

一个合理的看法是：开放的模型权重和闭源的模型 API（带有一些安全防护）都同样容易被滥用，而不是说 API 模型更安全。那个「开放即危险，闭源即安全」的说法，可能更接近于「开放不安全，闭源也不安全」。

闭源模型能力更强、防护也更强，但如果双方的防护措施都有漏洞，那么能力更强这一点在净危害上可能影响更大。

与此同时，正如作者们所承认的（谢谢——这本身就是进步！），没有极端网络安全防护措施的开放模型，对于在经济中快速普及网络安全准备度很重要——因为像 project glasswing 这样的项目在让所有关键行业都接入方面并不完美。

还会出现更多类似的问题，比如 Fable 发布时，Amazon 找到了一个变通方法，从而能够访问通过 API 提供的该模型的全部能力。

这篇博客在其狭窄的论述范围内总体上是合理的，但在一个复杂、快速演变的媒体生态中，它是强化某一种安全思维的非常有效的工具。