别被迷惑——LLM 并不会推理

前 Google DeepMind 研究员指出，LLM 靠逐个预测 token 生成答案，其思维链仍由同一套下一 token 预测产生，并非 AlphaGo 那种独立搜索机制，因此不构成真正的推理。他列举三大缺陷：模型没有显式可检查的认知状态、知识与推理在权重中纠缠不清、思维链常是事后编造。为此他离开 Google DeepMind，主张借鉴 AlphaGo 架构，让系统维护可更新的认知状态。