Agent 体验两周后的一点感受
# Agent · # 工具用编程 Agent 干了两周活,体感跟 METR 的数据吻合:单步惊艳,长程拉胯。最明显的失败模式不是「做错」,而是「不知道自己错了还继续」——错误在第 3 步引入,第 15 步才爆出来,中间的 token 全是白烧的。
对比之下人类工程师的优势其实不是写代码,是廉价的自我怀疑:人每隔几分钟就会不确定一次,重读一遍上下文。给 Agent 加「定期重读任务描述 + 自我检查点」之后返工率肉眼可见下降。这佐证了可靠性问题更接近 制度设计问题 而不是模型能力问题——起码短期内是。