谷歌称自我改进 AI 还远未到来

谷歌工程师海登·贝尔菲尔德表示，自我改进的 AI 仍然遥不可及，尽管显著的自动化已经在发生。

根据贝尔菲尔德的说法，谷歌 DeepMind 没有发现由 AI 自身驱动的 AI 研究出现可测量的加速。

这并不意味着显著的自动化尚未发生：AI 现在编写了超过 75% 的生产代码。

但根据贝尔菲尔德的说法，约 88% 的代码变更仍然需要人工监督或审查，而且每一次变更在提交前都由人工审查。

完全委托给 AI 的代码变更比例从 7.5% 上升到 11.9%。

任务越复杂、越耗时，AI 就越不可能独自处理它。

在 1,389 次内部 Argon 智能体运行中，随着复杂度增加，无人工输入的成功率急剧下降。

贝尔菲尔德说，人类在创造性研究、新颖实验设计、诊断微妙的训练不稳定以及长期规划方面仍然不可或缺。

一项对十二位 DeepMind 资深研究人员的调查证实了这一模式：自动化在定义明确、可验证的任务中最高，在开放式科学构思中最低。

在 DeepMind 的内部基准 RE-Bench 上，该基准包含 74 个真实的机器学习工程任务，Argon 解决了其中约一半。

相比 Gemini 3.7 Flash 的 27%，这是一个大幅跃升，但距离完全自动化所需的近乎完美的表现仍然很远。

为了系统地追踪进展，团队构建了一个通用能力指数（GCI），覆盖 123 个模型和 92 个基准。

Gemini 模型能力以每月约 0.1 个 GCI 点的稳定速度增长，速度没有显著变化。

团队将 Gemini 4 Argon 略微高于趋势线归因于更多的算力和组织投入，而不是 AI 驱动的加速。

团队目前将 AI 驱动的研究自动化带来的风险评为低，但正在构建测量基础设施，以追踪未来加速的迹象。

贝尔菲尔德的发现与最近的研究一致，但该领域并非所有人都同意。

包括杰弗里·辛顿、约书亚·本吉奥和 OpenAI 的雅各布·帕乔基在内的 20 多名 AI 研究人员最近在一篇研究论文中警告可能出现“智能爆炸”。

他们认为，AI 系统可能在未来几年内自动化所有 AI 研发，将通常需要数年的进展压缩到短短几个月。

谷歌工程师 Haydn Belfield 表示，自我改进型 AI 仍遥不可及，DeepMind 未观测到 AI 研究被 AI 自身显著加速。AI 已编写超 75% 生产代码，但约 88% 代码变更仍需人工审查，完全委托 AI 的比例从 7.5% 升至 11.9%。

• 谷歌称自我改进 AI 仍遥远，AI 研究未见可测量加速
• AI 已写超 75% 生产代码，但 88% 变更仍需人工审查
• 完全委托 AI 的代码变更比例从 7.5% 升至 11.9%
• 任务越复杂，AI 独立完成成功率下降越明显
• 20 多位研究者仍警告可能发生智能爆炸

这是什么信号

这是一条来自 Google DeepMind 内部工程师 Haydn Belfield 的公开判断：自我改进 AI，也就是 AI 自己加速 AI 研究，目前没有可测量的迹象。它与 Geoffrey Hinton、Yoshua Bengio、Jakub Pachocki 等 20 多位研究者近期警告的“智能爆炸”形成直接对冲。信号本身不是“AI 不行”，而是“AI 自动化的边界在复杂、开放、需要判断的任务上非常清晰”。

为什么重要

AI 已经写超过 75% 的生产代码，这是一个很高的自动化水位。但同一组数据同时显示：88% 的代码变更仍需人工监督或审查，完全委托给 AI 的比例只有 11.9%，且任务越复杂、越耗时，AI 独立完成成功率下降越明显。1,389 次内部 Argon 智能体运行验证了这一点。RE-Bench 的 74 个真实 ML 工程任务中，Argon 解决约一半，比 Gemini 3.7 Flash 的 27% 高很多，但离“全自动化所需的近乎完美”还很远。GCI 覆盖 123 个模型、92 个基准，Gemini 能力约每月增长 0.1 个 GCI 点，速度没有显著变化；Gemini 4 Argon 略高于趋势线被归因于更多算力和组织投入，而不是 AI 驱动的加速。

对谁有价值

对 AI 产品与工程负责人：这组数据给出了人机协作的任务分界线——定义明确、可验证的任务自动化程度最高；开放式科学构思、创造性研究、新颖实验设计、训练不稳定诊断和长期规划仍需人类。对研究者：这是评估递归自我改进时间表的一手内部指标。对投资者和战略团队：它提示不要把“AI 写代码比例”直接等同于“AI 研发自动化”，两者之间有巨大的人工审查层。

可以怎么行动

第一，按任务类型拆分自动化策略：可验证任务优先委托，开放式研究保留人类主导。第二，建立自己的“自动化率 + 人工审查率 + 复杂度失败率”仪表盘，而不是只看代码生成占比。第三，在代码提交、实验设计、训练稳定性诊断和长期规划上保留人类否决权。第四，跟踪 GCI 这类系统性指标，并关注完全委托 AI 比例是否从 11.9% 继续抬升。第五，把“AI 自我改进未加速”作为当前基线，但设置触发条件：一旦复杂任务成功率和开放式研究自动化率出现非线性变化，再重新评估。

风险或限制

这些数据来自 DeepMind 内部，外部难以完全复现；RE-Bench 和 Argon 运行也是内部基准与内部智能体。团队目前将 AI 驱动研究自动化的风险评为低，但这是当前评级，不是永久结论。Hinton、Bengio、Pachocki 等 20 多位研究者仍警告“智能爆炸”可能在未来几年发生，把数年进展压缩到数月。双方分歧本身说明：时间表高度不确定，单点数据不能替代持续测量。自动化比例从 7.5% 升至 11.9% 也表明边界在移动，虽然速度不快。

信息差价值：这条信号的关键在于，它来自 DeepMind 内部工程师的一手数据，而不是外部评论。市场叙事容易把“AI 写 75% 生产代码”等同于“AI 正在自我改进”，但同一组数据同时显示 88% 变更仍需人工审查、完全委托比例仅 11.9%、复杂任务成功率随复杂度下降。这种“高自动化水位 + 低自主研究加速”的组合，是当前最值得关注的落差。

业务启发：自动化不是一刀切，而是沿着可验证性分布。定义明确、可验证的任务适合优先交给 AI；开放式科学构思、创造性研究、实验设计、训练不稳定诊断和长期规划仍需要人类判断。团队若能用任务复杂度、验证成本和错误代价来分层，就能比单纯追求“AI 生成比例”更稳地拿到效率。

可沉淀动作：建立内部自动化度量，把 AI 完成率、人工审查率、复杂任务失败率、完全委托比例作为常规指标；为高风险或开放式任务保留人类否决权；定期对照 GCI 等公共或内部基准，观察能力增长斜率是否变化。这样既不会低估 AI，也不会把“自动化”误判为“自我改进”。

• Matthias Bastian 原帖