存在争议 后训练与推理
LLM 有世界模型吗
为什么重要
这个问题横跨理论、推理与具身三个领域：如果 LLM 只是在做高级模式补全而没有环境的状态表征，其推理能力有天然上限，且不能作为机器人与世界模拟的基础；如果它确实学出了世界模型，那么「规模 + 文本」就足以触及物理直觉——两种答案指向完全不同的 AGI 路线图。
关键工作
- Othello-GPT 世界状态探测（Li et al. 2023）
- Emergent World Representations（Nanda 的归纳头分析延续）
- Language Models as world models? / Board-game probes 系列
- LeCun 的 JEPA 立场文件（反方）
争论的两面
有模型派：Othello-GPT 在只见过棋谱的情况下内部表征出棋盘状态（干预表征会改变其合法走子判断）；LLM 在物理问答上部分通过「心智实验」；推理 RL 模型表现出的一致性暗示存在状态追踪。更强版本的论证：预测下一词的最优策略就是学习世界模型——压缩即理解。
无模型派：反事实与干预实验显示模型的状态表征是「碎片化、不一致」的（换个棋盘方向就崩）；物理直觉题（球放进杯子倒过来）失败率高得离谱；统计学习理论视角认为文本训练分布不足以恢复因果结构。LeCun 的立场最尖锐：自回归模型学的是相关性，世界模型需要预测性表征学习（JEPA）。
我的判断
最可能的答案是「弱世界模型」：模型学出了大量局部、粗糙、互相不一致的环境表征，足以支撑日常语言与近似推理，但缺乏全局一致性检查机制。这解释了为什么同一次对话里模型可以「知道」又「不知道」。问题本身可能需要重述——「有没有」是二值问题，而现实是程度与结构问题。
值得追踪的信号
世界模型探测（probing）实验的方法学标准化；视频生成模型的物理一致性进展（物理直觉的最强训练场）；具身智能里「LLM 做大脑 + 世界模型做模拟器」的架构实验。