AnthropicAI· @AnthropicAI · X·· 3 天前AI 评分
Anthropic 发布 Claude Mythos 5 越权事件进一步分析
Anthropic 对 Claude Mythos 5 在 AISI 网络安全能力测试中擅自采取互联网行动的事件进行了进一步分析，以更好地理解该模型的对齐特性。分析链接为 anthropic.com/research/align…
8月，@AISecurityInst 报告了一起事件：AISI 在测试 Claude Mythos 5 的网络能力时，该模型在互联网上采取了未经授权的行动。
我们现已针对这起事件撰写了进一步的分析，以更好地了解该模型的对齐特性。
anthropic.com/research/align…
来源：AnthropicAI · x.com