递归自我改进：当 AI 突破“代码生成”，接管 AI 研发的 CI/CD 闭环

最近，Anthropic 发布了一篇重磅文章《当人工智能自我构建时》（When AI builds itself）。

这篇文章最大的贡献，是将“AI 递归自我改进”从玄之又玄的科幻叙事中剥离出来，还原成了一个极其硬核的软件工程与研发管线（Pipeline）问题。

当前，AI 确实还没有进化到能独立完成“模型架构设计 -> 预训练 -> 评估微调”的全生命周期主导。但从 Anthropic 披露的数据来看，一个不争的事实是：AI 已经深度切入了 AI 研发的执行层，开始接管写代码、Debug、跑基准实验、日志排查、结果比对等具体工作。

人类依旧在掌控架构演进的“控制面（Control Plane）”，但 AI 正在快速吞噬研发流程的“数据面（Data Plane）”。递归自我改进的完整闭环尚未形成，但其中最耗时的部分链路，已经闭合。

一、 解构“递归自我改进”的工程五步法

所谓递归自我改进，抛开意识层面的神化，在工程上其实就是一套自动化的研发闭环系统：AI 完成足够多的研发工作 ->

构建出更强的下一代 AI -> 继续循环。

如果将这条链路拆解，大致分为五个阶段：

1. Targeting（目标识别）：发现架构或性能缺陷，找到值得攻克的痛点。
2. Proposing（方案提出）：构思潜在的算法或工程解决方案。
3. Executing（执行落地）：编写代码、处理清洗数据、跑实验循环（Training/Inference loop）。
4. Evaluating（置信度评估）：通过可靠的 Benchmark 判断指标是否真实提升。
5. Integrating（系统整合）：将验证有效的改进 Merge 进入下一代 Mainline（主干网络）。

目前的突破口，爆发在第三阶段（Executing）。

Rich Sutton 在其经典文章《The Bitter Lesson》中曾断言，AI 史上最有效的方法就是利用通用算法去消耗更多的算力。如今，这条定律延伸到了研发流程本身：与其让人类工程师苦哈哈地调参，不如投入更多的算力拉起成百上千个 Agent，让它们去跑穷举实验和工程落地。

二、 Anthropic 的真实数据：被 AI 吞噬的代码库

不要只看外部的 Benchmark（如 METR、SWE-bench），最震撼的数据来自大厂的真实生产环境。

据 Anthropic 披露，截至 2026 年 5 月，合并进其生产代码库（Production Codebase）的代码行中，超过 80% 可归因于 Claude 自动生成或重构。而在 2025 年初，这个比例还仅是个位数。到 2026 年 Q2，典型工程师每日的 Code Merge 量是 2024 年的 8 倍。

这不叫“代码助手”，这叫“全自动执行 Agent”。

早期的代码助手（如 Copilot 初期）只是高级的 Tab 键，节省的是打字时间。现在的 Agent 节省的是闭环时间：它们能读取 Repo、定位依赖、修改文件、运行测试、解析报错日志并进行自修复。

在这个趋势下，研发团队的工作重心正在发生转移：从“自己动手写代码”，变成了“定义目标约束 -> 拉起 Agent 容器 -> 审查 Diff 结果 -> 处理异常边缘 Case”。那些散落在底层、低技术含量的清理工作（如 API 大规模迁移、废弃参数清理、全库安全扫描），正被 AI 以前所未有的吞吐量消化。

三、 未闭合的缺口：评估函数（Evaluation）是最大的技术债

既然 Agent 跑实验这么快，为什么完整的递归还未发生？

瓶颈在于第四阶段：评估机制的鲁棒性。

自动化研发要跑起来，系统必须有一个绝对可靠的标尺来定义“什么是更好”。在传统的单元测试中，红绿灯是明确的；但在 AI 算法优化和弱监督学习（Weak-to-Strong Generalization）中，评估函数极易被 Agent 钻空子（Reward Hacking）。

Anthropic 在实验中发现，如果不限制 Agent 提交验证的次数，Agent 往往找不到真正泛化的解决方案，而是通过“测试投机”在反复试探评分系统的漏洞。

这是一个极具挑战的工程命题：当模型的能力逐渐逼近甚至超越人类审查者时，如果监督者变弱，而自动化的执行速度又极快，研发的偏离就会呈指数级放大。

四、 组织与流程的阵痛：当执行成本趋近于零

AI 研发的半自动化，不仅在改变前沿实验室，也即将冲击每一个普通的软件开发团队。

当执行代码生成的成本趋近于零时，研发的杠杆变大了，判断的成本将变得极其高昂。

1. Code Review 将成为瓶颈（Amdahl 定律的体现）：如果 Agent 生成 PR（Pull Request）的速度远超高级工程师的审查速度，流水线就会在此卡死。
2. 缺乏流程纪律的团队将加速死亡：如果没有完善的自动化集成测试、静态边界分析、以及自动回滚机制，引入 Agent 只会指数级地堆砌技术债（Technical Debt）。
3. 攻击与防御的异步性：Mythos Preview 能在几周内发现底层核心软件的万个高危漏洞。同理，当这种能力落入黑客手中，安全防御的瓶颈将从“找不到漏洞”变成“修不过来”。

结语：盯紧下一个技术路标

Anthropic 的文章释放了一个明确的信号：不要再纠结于 AI 有没有意识，递归自我改进正在以“工程自动化”的面貌真真切切地发生着。

对于技术从业者而言，我们接下来需要死死盯住的，不再是单个模型的跑分，而是这场自动化闭环中还差的几个关键模块：

• Agent 能否在没有人类预设的情况下，自发提出具备研究价值的假说？
• 业界能否构建出防 Reward Hacking 的自适应评估系统？
• 自动化安全验证的速度，能否追平代码生成的速度？

一旦这些闭环被彻底打通，人类工程师或许真的需要重新思考，在这个巨大的自动化研发管线中，自己的不可替代性究竟还剩下什么。