AI觉醒星球
Awakening is here
Knowledge File / 全球热点解读
2026-06-27 6 浏览 公开

一个AI模型在单个MirrorCode任务上连续编程19天,耗资2600美元

Epoch AI和METR发布MirrorCode基准测试,要求AI从头重写完整程序。Claude Opus 4.7以56%解决率领先,能在14小时内重写16000行代码的工具包,但最复杂任务仍无模型能解。

SOURCE / 全球热点解读 MIN / 9 ACCESS / 公开 POST / 2026-06-27 01:24:27

原贴

查看原文
作者:Matthias Bastian 来源站点:the-decoder.com 原贴时间:

原文

Epoch AI and METR have built a new benchmark called "MirrorCode" that requires AI models to recreate complete programs across various computer science domains from scratch, without access to the original source code. Claude Opus 4.7 leads the benchmark with a 56 percent solve rate and managed to reimplement a bioinformatics toolkit with 16,000 lines of code in just 14 hours. While all tested models can reliably handle smaller programs, none of them have cracked the most complex tasks so far. Epoch AI's new MirrorCode benchmark tests whether AI models can recreate entire programs on their own. Claude Opus 4.7 leads with 56 percent, but every model still fails on the most complex tasks. In the new MirrorCode coding benchmark from Epoch AI and METR, AI models have to reimplement complete programs from scratch without access to the original source code. The 25 target programs cover Unix utilities, data serialization, bioinformatics, interpreters, static analysis, cryptography, and compression. Each AI-generated solution must exactly reproduce the output of the original program, including hidden end-to-end tests the model never sees during development. Ad Another difference from many other benchmarks is the inference budget. Existing software engineering benchmarks often cap costs at $1 to $10 per task, even when a human would need weeks to finish the same work, the developers write. Ad DEC_D_Incontent-1 According to Epoch AI, one of the largest tasks in MirrorCode cost $2,600 for a single run. The AI worked continuously for 19 days with no human involvement at all. Epoch AI says AI can already handle demanding long-term programming tasks. The standout example comes from Claude Opus 4.7, which reimplemented gotree, a bioinformatics toolkit with roughly 16,000 lines of Go code and over 40 commands. A human engineer working without AI help would need 2 to 17 weeks for the same job, according to the researchers. Opus 4.7 finished in 14 hours for $251. Ad In the overall rankings, Claude Opus 4.7 hit a solve rate of 56 percent. GPT-5.5 followed at 44 percent, and Gemini 3.1 Pro Preview came in at 32 percent. Even when models fail to fully reimplement a program, they typically pass 90 percent or more of the tests. Despite the progress, MirrorCode is far from solved. Tasks fall into three categories: small, medium, and large. Small programs like uuid or parseqsv get reliably reimplemented by all tested models. The largest tasks beat every model tested. Ad DEC_D_Incontent-2 The researchers are still seeing rapid gains. Leading models from a year ago would have scored only about 30 percent and been limited to simpler programs like a calendar utility, Epoch AI says. Ad

中文翻译

Epoch AI和METR开发了一个名为"MirrorCode"的新基准测试,要求AI模型从头开始重新创建跨多个计算机科学领域的完整程序,无法访问原始源代码。Claude Opus 4.7以56%的解决率领先该基准测试,并成功在14小时内重新实现了一个拥有16000行代码的生物信息学工具包。虽然所有测试模型都能可靠地处理较小的程序,但到目前为止,没有一个模型破解了最复杂的任务。Epoch AI的新MirrorCode基准测试测试AI模型能否自行重新创建整个程序。Claude Opus 4.7以56%领先,但每个模型仍然在最复杂的任务上失败。在Epoch AI和METR的新MirrorCode编码基准测试中,AI模型必须从头开始重新实现完整的程序,无法访问原始源代码。25个目标程序涵盖Unix工具、数据序列化、生物信息学、解释器、静态分析、密码学和压缩。每个AI生成的解决方案必须精确重现原始程序的输出,包括模型在开发过程中从未见过的隐藏端到端测试。与许多其他基准测试的另一个区别是推理预算。开发者写道,现有的软件工程基准测试通常将每个任务的成本限制在1到10美元,即使人类需要数周才能完成同样的工作。根据Epoch AI的说法,MirrorCode中最大的任务之一单次运行成本为2600美元。AI连续工作了19天,完全没有人类参与。Epoch AI表示,AI已经能够处理要求高的长期编程任务。突出的例子来自Claude Opus 4.7,它重新实现了gotree,一个拥有约16000行Go代码和40多个命令的生物信息学工具包。研究人员称,在没有AI帮助的情况下,人类工程师完成同样的工作需要2到17周。Opus 4.7在14小时内完成,花费251美元。在总体排名中,Claude Opus 4.7的解决率达到56%。GPT-5.5紧随其后,为44%,Gemini 3.1 Pro Preview为32%。即使模型未能完全重新实现程序,它们通常也能通过90%或更多的测试。尽管取得了进步,但MirrorCode远未解决。任务分为三类:小、中、大。像uuid或parseqsv这样的小程序能被所有测试模型可靠地重新实现。最大的任务击败了所有测试模型。研究人员仍然看到快速进步。Epoch AI表示,一年前的领先模型只能得分约30%,并且仅限于更简单的程序,如日历工具。

核心信息

Epoch AI和METR发布MirrorCode基准测试,要求AI从头重写完整程序。Claude Opus 4.7以56%解决率领先,能在14小时内重写16000行代码的工具包,但最复杂任务仍无模型能解。

  • Epoch AI和METR发布MirrorCode基准测试,要求AI从头重写完整程序。Claude Opus 4.7以56%解决率领先,能在14小时内重写16000行代码的工具包,但最复杂任务仍无模型能解。
  • 原贴提到:Epoch AI and METR have built a new benchmark called "MirrorCode" that re
  • 来源:the-decoder.com

详细解读

这是什么信号?MirrorCode基准测试表明,AI模型在长期、复杂的编程任务上取得了突破性进展。Claude Opus 4.7不仅能在14小时内重写16000行代码的生物信息学工具,还能以56%的解决率领先其他模型,这标志着AI从“辅助写代码”向“自主构建完整软件”迈出了关键一步。同时,2600美元的高成本和19天的连续运行说明,AI自主编程的推理成本仍较高,但相比人类数周的工作时间,性价比已经显现。

为什么重要?传统软件工程基准测试(如SWE-bench)往往限制推理成本在每任务1-10美元,忽略了真实世界长期任务的需求。MirrorCode通过允许高成本、长时间运行,更贴近实际开发场景。它检验了AI的“完整性”和“端到端”能力,而不仅仅是补丁或片段。这直接影响企业对AI替代人类开发者潜力的评估,尤其对于大型遗留系统重构、生物信息学工具维护等复杂领域。

对谁有价值?对AI研究团队而言,MirrorCode提供了新的能力标尺,可针对性优化模型的长程推理和代码生成准确性。对软件企业(尤其是涉及基础设施、科学计算的公司),该基准揭示了AI当前能胜任中等复杂度程序重构,但最复杂任务仍需人类主导,可据此调整研发投资。对个体开发者,它意味着AI辅助编程工具(如GitHub Copilot)的能力上限将快速提升,但短期内无法完全替代高级架构师。

可以怎么行动?AI公司可将MirrorCode纳入模型训练和评估流程,针对失败案例(大型任务)增强模型在代码结构理解、隐藏测试泛化等方面的能力。企业可尝试将部分中小型程序的维护或重构任务外包给AI(如Claude Opus 4.7),并对比成本效益。开发者应主动学习如何与AI协作编写完整程序,如将需求分解为模块、利用AI生成初版再人工审查。

风险或限制:MirrorCode仅覆盖25个程序,领域有限,不能代表所有编程场景。模型在大型任务上完全失败,说明当前AI处理复杂系统整合(如跨模块依赖、错误处理)的能力不足。此外,2600美元的成本对于中小型企业可能过高,且AI生成的代码可能存在安全隐患或不符合特定规范,需要人工严格验证。

信息差价值

这条内容的真正价值,不只是“有人发布了一个新功能”,而是它揭示了 the-decoder.com 背后的产品方向、工作流变化或竞争信号。对 OPC 来说,这种信息可以转化成持续追踪的栏目选题。

如果把《一个AI模型在单个MirrorCode任务上连续编程19天,耗资2600美元》放到你的内容系统里,它最大的价值在于帮助读者更快看懂“为什么值得关注”,而不是只看到一条碎片化动态。

参考来源

上一篇 利用冻结的多令牌预测加速Pixel上的Gemini Nano模型 下一篇 GitHub与联合国开发计划署合作,利用开源技术推动加纳发展优先事项