演进时间线

Anthropic 在 10 月发布 Agent Skills 后，将 SKILL.md 规范开源为跨平台开放标准：一个文件夹打包「说明书 + 脚本 + 资源」，模型按需渐进加载——知识复用从 prompt 走向「agent 时代的软件包」。

Thinking Machines 发表在线策略蒸馏：学生模型自己生成序列、教师逐 token 反馈（reverse KL），以远少于 RL 的采样量达到同等效果——后训练工具箱自此三足鼎立。

DeepSeek-R1 证明纯可验证奖励强化学习（GRPO）无需过程标注即可诱发长链推理与自我反思，以 MIT 协议开放权重与蒸馏版小模型，全球市场与开源生态为之震动。

DeepSeek-V3 以 671B 总参 / 37B 激活的 MoE 架构、约 558 万美元的训练成本逼近闭源前沿，MLA + 无辅助损失负载均衡 + FP8 混合精度训练成为效率工程的新教科书。

Google DeepMind 的 SynthID-Text 登上 Nature：锦标赛式采样在生产流量（Gemini 与 AI Studio）上部署水印，假阳性率压到远低于司法证据标准的水平——水印第一次达到工业规模。

OpenAI 发布 o1，用大规模强化学习训练模型生成更长推理链，在 AIME、Codeforces、博士级科学问题上大幅跃升，「推理时算力换答案质量」成为新的 Scaling 维度。

DeepMind 与 Isomorphic Labs 发布 AlphaFold 3，把预测范围扩展到蛋白质与 DNA、RNA、配体的复合物，直接瞄准药物发现的核心问题，AI4S 管线再下一城。

OpenAI 展示 Sora，用 DiT 架构把视频视为时空 patch 序列，生成长达一分钟物理连贯的高清视频，并宣称视频模型是「世界模拟器」——物理一致性之辩由此白热化。

Mistral 以磁力链接低调发布 Mixtral 8x7B，稀疏专家架构（46.7B 总参数、每 token 激活 12.9B）以 Apache 2.0 协议开源，性能对标 GPT-3.5，「大而不贵」成为开源标配。

开源项目 AutoGPT 让 GPT-4 自主设定子目标、循环调用工具，GitHub 星标数月破十万——但自主智能体在真实任务中的可靠性迅速暴露，热潮退去，为后来务实的 Agent 工程留下教训。

OpenAI 发布 GPT-4，支持图像输入，在律考、AP 等人类考试中进入前 10%，配合微软全面产品化，确立「前沿模型」的竞争格局——也开创了不再公开技术细节的先例。

Meta 开放 LLaMA 系列权重（研究许可，随后一周即泄露扩散），社区迅速跑通微调生态——Alpaca、Vicuna 在数周内涌现，开源大模型时代不可逆转地开启。

马里兰大学 Kirchenbauer 等人提出「绿名单」软水印：生成时暗中偏好绿色 token、检测时做统计假设检验——LLM 输出溯源自此有了可部署的范式（ICML 2023）。

Google 发布 RT-1（13 万小时真机数据的机器人 Transformer）与 Gato（单一模型通吃对话、 captioning、机械臂、Atari），「机器人规模化学习」与「通用智能体」两条叙事同时启动。

Anthropic 提出让 AI 依据一部书面「宪法」自我批评与修订（RLAIF），减少对人类标注的依赖，把对齐目标从隐式偏好变成可审计的显式原则。

OpenAI 上线基于 GPT-3.5 的对话产品，两个月破亿用户创消费应用增速纪录，LLM 从实验室议题变成全球性文化现象，也开启了科技巨头的新军备竞赛。

Stability AI 联合 LMU 开源 Latent Diffusion 权重，消费级显卡可本地生成图像，两个月内掀起全球「AI 绘画」浪潮，也引爆了版权与艺术家的持久争议。

Stanford 的 Tri Dao 用「分块计算 + 不落显存」的精确注意力实现，把长序列训练提速数倍且不近似，注意力优化从算法问题变成访存问题。

DeepMind 证明同算力下「更小模型 × 更多数据」优于 Kaplan 曲线的建议，70B 参数的 Chinchilla 打败 280B 的 Gopher，行业模型尺寸策略随之改写。

OpenAI 用「SFT + 奖励模型 + PPO」三段式让 1.3B 模型的回答比 175B 原始 GPT-3 更受人类偏好，对齐工程首次证明「小而听话」胜过「大而任性」。

Google 的 Wei 等人发现 few-shot 示例中加入中间推理步骤，可让大模型在数学、常识推理上大幅跃升——CoT 成为两年内被引用最多的提示技术。

OpenAI 的 Codex（GPT-3 的代码特化版）驱动 GitHub Copilot 上线，编程助手成为 LLM 第一个大规模商业落地，「代码即验证器」也埋下了后来推理 RL 的伏笔。

DeepMind 在 CASP14 上把蛋白质结构预测做到原子级精度，随后开源代码并公开两亿蛋白质结构数据库，生命科学进入「结构即服务」时代，AI for Science 的标杆时刻。

微软提出 LoRA，把适配器权重约束为低秩分解，可训练参数降低数百倍，「一张卡微调大模型」成为现实，直接催生了开源社区的个性化微调生态。

OpenAI 用 4 亿图文对做对比学习，让图像与文本嵌入进同一向量空间，零样本图像分类与「文本驱动的视觉检索」成为可能——此后几乎所有 VLM 的地基。

Ho 等人的去噪扩散概率模型证明「逐步加噪-逆向去噪」可以生成高质量图像，训练稳定性远超 GAN，为扩散模型取代对抗训练奠定基础。

Google 的 Vision Transformer 把图像切成 16×16 patch 序列直接喂给标准 Transformer，在大数据加持下超越 CNN，「架构统一」从 NLP 扩张到视觉。

1750 亿参数的 GPT-3 展示了 in-context learning：不更新任何权重，仅在 prompt 中给几个示例即可执行新任务，「大模型即少样本学习者」的范式宣言。

OpenAI 的 Kaplan 等人系统刻画了损失随模型参数、数据量、算力的幂律关系，把「堆规模」从信仰变成可外推的工程学科，直接奠定了 GPT 系列的投资逻辑。

OpenAI 发布 15 亿参数的 GPT-2，以「防止滥用」为由分阶段开源权重——争议本身成了最好的宣传，也第一次让公众意识到语言模型的能力边界。

Google 的 BERT 用掩码语言模型 + 双向 Transformer，在十一项 NLP 任务上同时刷新纪录，「预训练语言模型 + 微调」成为行业标准范式，NLP 的 ImageNet 时刻。

OpenAI 用「无监督预训练 + 有监督微调」的两段式在多项 NLP 任务上取得领先，确立了 Generative Pre-Training 路线——GPT 系列的第一步。

Google 团队发表 Transformer，用纯自注意力取代循环与卷积，以空前的并行性与可扩展性统一了序列建模范式——深度学习时代最重要的一篇论文。

AlphaZero 抛弃人类棋谱，仅凭自博弈在围棋、国际象棋、将棋三个领域登顶，「纯强化学习 + 搜索」的通用性首次得到强验证。

DeepMind 的 AlphaGo 以 4:1 击败围棋世界冠军李世石，策略网络 + 价值网络 + 蒙特卡洛树搜索的混合架构证明：在超大搜索空间中，「学习引导搜索」可以超越人类千年棋理。

He Kaiming 等人的残差学习用「恒等映射 + 学习增量」结构解决深层网络退化问题，152 层网络横扫 ImageNet，残差连接此后成为一切深层架构（包括 Transformer）的标配。

Sutskever 等人的 Seq2Seq 用「编码器-解码器」两个 LSTM 做端到端机器翻译；Bahdanau 注意力随后让解码器学会「回头看」，自注意力前史完成最后一块拼图。

Goodfellow 提出生成对抗网络，让生成器与判别器互搏出逼真样本，此后六年统治图像生成，直至被扩散模型取代。

DeepMind 的 DQN 用深度网络近似 Q 函数，仅凭像素输入在多款 Atari 游戏达到人类水平，「深度强化学习」由此成为独立领域。

Mikolov 的 Word2Vec 用「Skip-gram + 负采样」把词训练成稠密向量，「国王 - 男人 + 女人 ≈ 女王」展示了语义的可计算性，为整个 NLP 的表示学习转向奠基。

AlexNet 在 ImageNet 竞赛把错误率从 26% 砍到 15%，GPU 训练 + ReLU + Dropout + 大数据的组合拳让整个领域在一年内转向深度学习。

李飞飞团队发布含 1400 万标注图像、2 万类别的 ImageNet，用众包完成了此前不可想象的标注工程——三年后它将成就 AlexNet，证明「数据是深度学习的燃料」。

Hinton 等人提出逐层预训练解决深层网络训练难题，「deep learning」一词随之流行，被压抑三十年的神经网络研究重回主流。

Hochreiter 与 Schmidhuber 提出长短期记忆网络，用门控机制解决 RNN 的梯度消失，此后二十年统治序列建模，直到被注意力机制取代。

IBM 深蓝以 3.5:2.5 战胜国际象棋世界冠军卡斯帕罗夫，暴力搜索 + 人工评估函数的符号主义路线达到巅峰——也是「算力碾压智能」叙事的第一次胜利。

LeCun 的 LeNet 用卷积 + 权值共享 + 池化识别手写数字，被银行支票系统规模化部署——深度学习第一次进入生产环境，也是 CNN 范式的原型。

Rumelhart、Hinton 与 Williams 在 Nature 发表用反向传播训练多层网络的方法，解决了感知机时代遗留的隐藏层学习问题，成为此后一切深度学习的训练基石。

Rosenblatt 的感知机用权重自适应实现了线性可分模式的学习，硬件化原型 Mark I Perceptron 引发第一波神经网络热潮——也埋下了被 Minsky 与 Papert（1969）证伪「异或不可分」后寒冬的伏笔。

McCarthy、Minsky、Shannon 等人在达特茅斯学院为期两个月的研讨会正式命名「Artificial Intelligence」，符号主义纲领由此确立，学科诞生。

图灵在《Computing Machinery and Intelligence》中提出用对话不可区分性代替「机器能否思考」的形而上学追问，为人工智能给出了第一个可操作的定义。