铺开一张 AI 世界地图

DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning

纯可验证奖励的强化学习（GRPO）无需过程标注即诱发长链推理与自我修正，并以 MIT 协议开源——推理模型的民主化时刻。

On-Policy Distillation

学生生成、教师逐 token 反馈——同时拿到 SFT 的数据效率与 RL 的分布正确性，用约八分之一的采样算力达到 RL 同等效果，一举把在线策略蒸馏推进工业标准管线。

Agent 体验两周后的一点感受

用编程 Agent 干了两周活，体感跟 METR 的数据吻合：单步惊艳，长程拉胯。最明显的失败模式不是「做错」，而是「不知道自己错了还继续」——错误在第 3 步引入，第 15 步才爆出来，中间的 token 全是白烧的。 对比之下人类工程师

从 Scaling Laws 到 Test-time Compute——能力增长叙事的十年变迁

2015 年的叙事是「更深」，2020 年是「更大」，2025 年是「想更久」。这篇综述沿时间线梳理三次能力增长范式的转移：各自的证据、失效的边界、以及每次转移发生前被忽视的信号。

重读 DeepSeek-R1 报告：GRPO 的省略

重读 R1 技术报告，注意到一个初读时跳过的细节：GRPO 去掉 critic 网络不只是省显存——它把「价值估计的偏差」换成了「组内相对比较的方差」，这可能是 R1-Zero 需要大 batch 才稳的原因之一。报告没展开这一点，翻了下

如何读一篇 AI 论文——我的三层过滤法

论文读不完是常态，问题从来不是「读多少」而是「筛选与沉淀的比率」。这篇是本站论文精读的方法论说明：三层过滤、四个固定问题、以及为什么要写批判性评价。

开站速记：为什么又一个 AI 博客

建这个站的原因很直接：过去两年读的论文，大概只有写过笔记的那几十篇还记得住，其余的只剩「好像在哪见过」的印象。所以这个站首先是给未来的自己用的检索系统——领域地图是索引，论文精读是卡片，研究问题是把卡片串起来的线。 选 Astro + 静态

Direct Preference Optimization

把 RLHF 的「奖励模型 + 强化学习」两步压缩为一步：偏好对的似然比本身就是隐式奖励，直接对语言模型做分类式优化。

GKD: Generalized Knowledge Distillation for Auto-regressive Sequence Models

把自回归语言模型的蒸馏统一成「散度 × 数据分布」的设计空间，并证明关键结论：在学生自己生成的序列上用 mode-seeking 散度（reverse KL）最优——On-Policy Distillation 的直接学术源头。