DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning
★★★★★DeepSeek-AI · arXiv 2025 2025
纯可验证奖励的强化学习（GRPO）无需过程标注即诱发长链推理与自我修正，并以 MIT 协议开源——推理模型的民主化时刻。
PAPERS
论文精读
每一篇都是完整读过的：一句话定位、核心要点、批判性评价。星级代表「值得投入精读」的程度。
On-Policy Distillation
★★★★★Lu et al. (Thinking Machines Lab) · Engineering Blog 2025 2025
学生生成、教师逐 token 反馈——同时拿到 SFT 的数据效率与 RL 的分布正确性，用约八分之一的采样算力达到 RL 同等效果，一举把在线策略蒸馏推进工业标准管线。
Direct Preference Optimization
★★★★★Rafailov et al. (Stanford) · NeurIPS 2023 2023
把 RLHF 的「奖励模型 + 强化学习」两步压缩为一步：偏好对的似然比本身就是隐式奖励，直接对语言模型做分类式优化。
GKD: Generalized Knowledge Distillation for Auto-regressive Sequence Models
★★★★★Agarwal et al. (DeepMind) · arXiv 2023 2023
把自回归语言模型的蒸馏统一成「散度 × 数据分布」的设计空间，并证明关键结论：在学生自己生成的序列上用 mode-seeking 散度（reverse KL）最优——On-Policy Distillation 的直接学术源头。
Mamba: Linear-Time Sequence Modeling with Selective State Spaces
★★★★★Gu & Dao (Princeton / CMU) · arXiv 2023 2023
给 SSM 装上「输入相关的选择性」，线性复杂度下逼近 Transformer 质量——后 Transformer 架构挑战者的最强音。
RT-2: Vision-Language-Action Models Transfer Web Knowledge to Robotic Control
★★★★★Brohan et al. (Google DeepMind) · arXiv 2023 2023
把机器人动作离散成 token、与互联网图文联合训练，PaLI-X 与 PaLM-E 底座上的 VLA 展现出「语义级泛化」——机器人技能开始继承语言模型的常识。
Toolformer: Language Models Can Teach Themselves to Use Tools
★★★★★Schick et al. (Meta AI) · NeurIPS 2023 2023
让 6.7B 模型自学「何时、如何插入 API 调用」：用自举数据过滤把工具使用内化到语言建模目标里。
Chain-of-Thought Prompting Elicits Reasoning in Large Language Models
★★★★★Wei et al. (Google) · NeurIPS 2022 2022
在 few-shot 示例中展示中间推理步骤，让大模型在数学、符号、常识推理上大幅跃升——一句提示词解锁的能力革命。
Training Compute-Optimal Large Language Models (Chinchilla)
★★★★★Hoffmann et al. (DeepMind) · NeurIPS 2022 2022
用正确的实验设计修正 Scaling Laws：同算力下参数与数据应等比增长，70B 的 Chinchilla 打败 280B 的 Gopher。
FlashAttention: Fast and Memory-Efficient Exact Attention with IO-Awareness
★★★★★Dao et al. (Stanford) · NeurIPS 2022 2022
不改注意力的数学，只改数据的搬运路线——分块计算 + SRAM 内完成 softmax，长序列训练提速数倍的精确注意力。
Training language models to follow instructions with human feedback (InstructGPT)
★★★★★Ouyang et al. (OpenAI) · arXiv 2022 2022
SFT → 奖励模型 → PPO 的三段式 RLHF 流水线，1.3B 的对齐模型在人类偏好上碾压 175B 的原始 GPT-3——ChatGPT 的技术蓝图。
LoRA: Low-Rank Adaptation of Large Language Models
★★★★★Hu et al. (Microsoft) · ICLR 2022 2022
假设微调的权重增量是低秩的，只训练两个小矩阵的乘积——参数效率提升百倍、推理零开销，开源微调生态的基石。
High-Resolution Image Synthesis with Latent Diffusion Models
★★★★★Rombach et al. (LMU / Runway) · CVPR 2022 2022
把扩散过程从像素空间搬进 VAE 隐空间，计算成本骤降两个数量级——Stable Diffusion 的原型论文，开源文生图时代的起点。
Highly accurate protein structure prediction with AlphaFold
★★★★★Jumper et al. (DeepMind) · Nature 2021 2021
五十年蛋白质折叠难题的终结：Evoformer + 结构模块把预测精度推到与实验误差同级，AI for Science 的标杆之作。
Learning Transferable Visual Models From Natural Language Supervision (CLIP)
★★★★★Radford et al. (OpenAI) · ICML 2021 2021
用 4 亿图文对做对比学习，把图像与文本嵌入同一向量空间，零样本图像分类能力横空出世——现代多模态的地基。
An Image is Worth 16x16 Words (ViT)
★★★★★Dosovitskiy et al. (Google) · ICLR 2021 2021
把图像切成 16×16 的 patch 序列直接喂给标准 Transformer，证明在大数据条件下视觉不需要卷积归纳偏置。
Language Models are Few-Shot Learners (GPT-3)
★★★★★Brown et al. (OpenAI) · NeurIPS 2020 2020
175B 参数的自回归语言模型在 zero-shot/few-shot 设置下横扫数十个 NLP 任务，上下文学习成为新的能力范式。
Scaling Laws for Neural Language Models
★★★★★Kaplan et al. (OpenAI) · arXiv 2020 2020
首次系统刻画损失随参数、数据、算力的幂律关系，把「堆规模」变成可外推的实验科学。
Reconciling modern machine-learning practice and the classical bias-variance trade-off
★★★★★Belkin et al. · PNAS 2019 2019
系统展示「双重下降」现象：测试误差在插值阈值处达峰后再次下降——经典偏差-方差权衡在过参数化世界需要重写。
Attention Is All You Need
★★★★★Vaswani et al. · NeurIPS 2017 2017
用纯自注意力取代循环与卷积的序列建模范式，以可并行性与可扩展性统一了此后一切模态。