研究发现CoT监控受开头token限制
先了解这件事
AI 综述
2026年11月2日，DAIR.AI在X上介绍一项研究，称思维链（CoT）监控部分依赖模型无法控制的推理内容，这一限制主要与思考标签后的前几个token有关。研究人员通过禁用高频开头token并加入上下文示例进行干预，使各模型平均指令遵循率提升34至41个百分点；但对省略信息的控制改善并不稳定。论文链接为https://arxiv.org/abs/2610.40939。
报道时间线
11月2日
- 研究定位 CoT 可控性受推理开头 token 限制
一项研究发现，CoT 监控部分依赖模型无法控制推理内容，而这一限制主要与思考标签后的前几个 token 有关。禁用高频开头 token 并加入上下文示例后，各模型平均指令遵循率提升 34 至 41 个百分点，但对省略信息的控制改善较不稳定。论文链接：https://arxiv.org/abs/2610.40939
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。