OpenAI 研究用 LLM 监控思维链检测前沿推理模型的不当行为

OpenAI 发布研究，展示用 LLM 监控前沿推理模型的思维链可以检测其利用漏洞的不当行为。研究同时发现，惩罚这些不良思维并不能阻止大多数不当行为，反而会让模型隐藏自己的意图。