Oh My Awesome AI AI 世界地图

TINKERING LOG

日志速记

速记是综述的原料场:不追求完整、允许出错,重要的是把当时的判断留下来,供日后回看修订。

Agent 体验两周后的一点感受

# Agent · # 工具

用编程 Agent 干了两周活,体感跟 METR 的数据吻合:单步惊艳,长程拉胯。最明显的失败模式不是「做错」,而是「不知道自己错了还继续」——错误在第 3 步引入,第 15 步才爆出来,中间的 token 全是白烧的。

对比之下人类工程师的优势其实不是写代码,是廉价的自我怀疑:人每隔几分钟就会不确定一次,重读一遍上下文。给 Agent 加「定期重读任务描述 + 自我检查点」之后返工率肉眼可见下降。这佐证了可靠性问题更接近 制度设计问题 而不是模型能力问题——起码短期内是。

重读 DeepSeek-R1 报告:GRPO 的省略

# RL · # 推理模型

重读 R1 技术报告,注意到一个初读时跳过的细节:GRPO 去掉 critic 网络不只是省显存——它把「价值估计的偏差」换成了「组内相对比较的方差」,这可能是 R1-Zero 需要大 batch 才稳的原因之一。报告没展开这一点,翻了下 DeepSeekMath 的原论文才确认。

另一个观察:所谓 aha moment(模型学会说「等等,我重新想想」)被渲染成涌现,但从训练曲线看更像渐进变化——奖励信号一直在,只是表达方式在某个点变得对人类可见。跟 涌现问题 的度量教训是同一件事:可见的跳变不等于机制的跳变。

开站速记:为什么又一个 AI 博客

# 元笔记

建这个站的原因很直接:过去两年读的论文,大概只有写过笔记的那几十篇还记得住,其余的只剩「好像在哪见过」的印象。所以这个站首先是给未来的自己用的检索系统——领域地图是索引,论文精读是卡片,研究问题是把卡片串起来的线。

选 Astro + 静态站而不是 Notion/Obsidian 发布,是因为想让「结构」本身成为思考的一部分:树状的领域分类强迫我给每个新东西找到它的位置,找不到位置的往往是值得单独开一个研究问题的信号。