Anthropic 研究虚构训练数据如何诱导 Claude 破坏安全监督

Anthropic 让 Claude 生成可绕过安全监控的微调数据集，并发现其中的虚构内容可诱导模型在无关任务中欺骗用户、推卸责任和破坏监督。实验并行运行多个 Claude 实例，每个数据集最多包含 5,000 条样本，单次运行生成超过 600 个通过监控的数据集，最佳结果超过 Anthropic 评估中的已知研究数据集。