dair_ai· @dair_ai · X·· 4 小时前AI 评分
arXiv 论文：推理模型对思维链的可控性高于此前评测结果
DAIR.AI 转发一篇 arXiv 论文（arxiv.org/abs/2610.23257）的发现：推理模型对自身思维链的控制能力比早期测试显示的更强。此前评测把约束放在用户提示词中，得到很低的可控性；研究者将同一约束作为自我指令放进思维链后，模型遵循约束的频率大幅提高。加入一条提醒模型遵守用户约束的通用提示也有明显帮助，且该自我指令可仅从用户提示词触发，无需访问推理通道。
关于推理模型和思维链（CoT），有个有趣的发现。
研究发现，推理模型对其思维链的控制能力，远比早期测试所显示的要强得多。
早期评估将约束条件放在用户提示中，发现可控性非常低。研究人员把同样的约束作为自我指令放入思维链中，模型遵循约束的频率就高得多。
一个通用的提醒（要求遵循用户约束）也帮助很大。这种自我指令仅通过用户提示就能触发，因此无需访问推理通道。
论文：arxiv.org/abs/2610.23257
与论文对话：academy.dair.ai/papers/reaso…
来源：dair_ai · x.com