觉
AI觉醒星球
Awakening is here
Knowledge File / AI小生意项目库
2026-10-11 1 浏览 免费阅读

研究发现:AI 智能体团队狂烧 token,质量提升却几乎无法衡量

评估公司 Vals AI 在 Vibe Code Bench 上对比 GPT-6 Sol 与 Claude Opus 5.5 的单智能体与多智能体团队表现:团队成本是单体的 1.8 至 5.1 倍,四次对比中仅一次出现统计显著提升。Anthropic 与 OpenAI 研究者的观察也指向同一结论——多智能体主要买到的是速度,不是质量。

SOURCE / AI小生意项目库 MIN / 9 ACCESS / 免费阅读 POST / 2026-10-11 23:39:26

原贴

查看原文
作者:Matthias Bastian 来源站点:the-decoder.com 原贴时间:

原文

AI agent teams deliver almost no better results than single agents, research finds. Evals company Vals AI tested GPT-6 Sol and Claude Opus 5.5 on the "Vibe Code Bench," both solo and as teams, at two reasoning levels: medium and maximum reasoning effort. The teams cost between 1.8x and 5.1x more than single agents. Out of four comparisons between teams and solo agents, only one showed a statistically significant improvement: GPT-6 Sol at medium reasoning, where the team scored 7.3 points higher. At maximum reasoning, the team setup gave neither Sol nor Opus 5.5 any real advantage. The results suggest that the extra cost of agent teams isn't worth it in most cases, especially when models are already running at full compute. Vals AI's benchmark shows cost per app versus score on Vibe Code Bench. Arrows point from each model's single agent to its team at the same reasoning effort. Teams cost far more but barely improve scores. | Image: Vals AI[ Anthropic saw quality gains shrink as it added more agents in two of its own tests with Opus 5.5 . Larger teams reached a given performance level faster, but going from ten to 100 agents only nudged scores up slightly after 24 hours. In separate ProgramBench tests, speed gains came with higher token usage. Fable 5.1 showed stronger quality gains on the Lean theorem proving task above ten agents, but still scored below Opus 5.5 across all tests. On the knowledge base task, Fable's score actually dipped slightly when scaling from 30 to 100 agents. OpenAI researcher Noam Brown confirmed in the Dwarkesh Podcast that multi-agent systems mainly buy speed, not better quality. Four agents solved tasks twice as fast but also cost twice as much. At 16 agents, the pattern held but grew slightly less efficient. The effect depends heavily on the task. Web research and math parallelize well, but writing a novel doesn't, he said. Throwing 10,000 agents at a novel would be just as pointless as throwing 10,000 people at it. Brown acknowledged that scaling to very large numbers of agents remains largely unexplored because the costs are simply too high. OpenAI developer Eric Provencher recently warned against using agent swarms for exactly this reason. They're most likely wasted money, he argued, because coordination between agents breaks down. He called it the coordination tax. Subscribe to THE DECODER for ad-free reading, a weekly AI newsletter, our exclusive "AI Radar" frontier report six times a year, full archive access, and access to our comment section. Full access to every article on THE DECODER Join the comments and community discussions 6x/year: "AI Radar" — deep dives on the AI topics that matter most

中文翻译

AI 智能体团队带来的结果与单个智能体几乎没有差别,研究发现。评估公司 Vals AI 在“Vibe Code Bench”上测试了 GPT-6 Sol 和 Claude Opus 5.5,既有单独运行也有组队运行,并设定两种推理水平:中等推理强度和最大推理强度。团队的成本是单个智能体的 1.8 倍到 5.1 倍。在团队与单个智能体的四次对比中,只有一次显示出统计上显著的改进:GPT-6 Sol 在中等推理强度下,团队得分高出 7.3 分。在最大推理强度下,团队设置并未给 Sol 或 Opus 5.5 带来任何真正的优势。结果表明,在大多数情况下,智能体团队的额外成本并不值得,尤其是当模型已经在满算力运行时。Vals AI 的基准展示了每应用成本与 Vibe Code Bench 得分的关系。箭头从每个模型的单个智能体指向相同推理强度下的团队。团队成本高得多,但得分几乎没有提升。| 图片:Vals AI

[ Anthropic 在其自身使用 Opus 5.5 的两项测试中发现,随着增加更多智能体,质量提升反而缩小。更大的团队更快达到某一性能水平,但在 24 小时后,从十个智能体增加到 100 个智能体只让得分略微上升。在另一项 ProgramBench 测试中,速度提升伴随着更高的 token 使用量。Fable 5.1 在上述 Lean 定理证明任务中,超过十个智能体后显示出更强的质量提升,但在所有测试中得分仍低于 Opus 5.5。在知识库任务上,Fable 的得分在从 30 个智能体扩展到 100 个时实际上略有下降。

OpenAI 研究员 Noam Brown 在 Dwarkesh 播客中确认,多智能体系统主要换来的是速度,而不是更好的质量。四个智能体把任务解决速度快了一倍,但成本也翻了一倍。在 16 个智能体时,这一模式依然成立,但效率略微下降。这种效果在很大程度上取决于任务。网络研究和数学适合并行化,但写小说不行,他说。把 10,000 个智能体扔给一部小说,就像把 10,000 个人扔给它一样毫无意义。Brown 承认,扩展到极大量的智能体在很大程度上仍未被探索,因为成本实在太高。

OpenAI 开发者 Eric Provencher 最近正是出于这个原因警告不要使用智能体集群。他认为,它们很可能是在浪费钱,因为智能体之间的协调会崩溃。他称之为协调税。

订阅 THE DECODER 可享受无广告阅读、每周 AI 通讯、每年六次的独家“AI Radar”前沿报告、完整档案访问以及评论区访问权限。访问 THE DECODER 上每篇文章的完整内容 加入评论和社区讨论 每年 6 次:“AI Radar”——对最重要的 AI 话题的深度探讨

核心信息

评估公司 Vals AI 在 Vibe Code Bench 上对比 GPT-6 Sol 与 Claude Opus 5.5 的单智能体与多智能体团队表现:团队成本是单体的 1.8 至 5.1 倍,四次对比中仅一次出现统计显著提升。Anthropic 与 OpenAI 研究者的观察也指向同一结论——多智能体主要买到的是速度,不是质量。

  • 评估公司 Vals AI 在 Vibe Code Bench 上对比 GPT-6 Sol 与 Claude Opus 5.5 的单智能体与多智能体团队表现:团队成本是单体的 1.8 至 5.1 倍,四次对比中仅一次出现统计显著提升。Anthropic 与 OpenAI 研究者的观察也指向同一结论——多智能体主要买到的是速度,不是质量。
  • 原贴提到:AI agent teams deliver almost no better results than single agents, rese
  • 来源:the-decoder.com

详细解读

这是什么信号

这条信号的本质是一次针对“多智能体一定更强”这一行业默认假设的成本-质量对账。Vals AI 用 Vibe Code Bench 把 GPT-6 Sol 和 Claude Opus 5.5 放在同一任务上做对照:单体 vs 团队、中等推理 vs 最大推理。结论很直接——团队的成本是单体的 1.8 至 5.1 倍,但四次对比里只有一次(GPT-6 Sol 中等推理、团队高 7.3 分)达到统计显著。到了最大推理强度,团队配置对两个模型都没有带来真实优势。

更值得注意的是外部验证的方向一致性:Anthropic 自己用 Opus 5.5 做的两项测试里,加 agent 反而让质量收益变小;从 10 个扩到 100 个 agent,24 小时后得分只是略微上抬。OpenAI 的 Noam Brown 直接说多智能体买的是速度不是质量——4 个 agent 快一倍、贵一倍;16 个 agent 仍成立但效率开始下滑。OpenAI 的 Eric Provencher 则把损失归因于“协调税”:agent 之间的协调本身会崩。

为什么重要

过去一年,agent 编排层是 AI 应用叙事里最容易溢价的部分:多角色、多轮协作、swarm 被当成能力升级。这条信号把它拉回到工程经济学的框架里——如果模型本身已经跑到最大推理强度,你再叠加 agent,本质上是在为一份已经被单模型吃掉的算力边际收益付费。质量曲线在满算力处趋于平坦,成本曲线却仍然陡峭。

它还给出了一个可复用的判据:收益取决于任务是否可并行。网络检索、数学这类能天然切分的任务适合并行;写小说这类强线性、强上下文的创作任务不适合,Brown 的比喻是“扔 1 万个 agent 去写小说,和扔 1 万个人去写一样没意义”。这意味着“该不该上多智能体”不是架构品味问题,而是任务结构问题。

对谁有价值

第一类是把多智能体当作产品卖点的团队:如果你的差异化叙事建立在“agent 团队更强”上,这条数据是直接的反证压力,需要拿出自己的、带成本的对照评测来回应。第二类是推理成本敏感的工程负责人:他们需要在 token 预算和效果之间做取舍,这里的倍数关系(1.8x–5.1x)是可以直接拿来做预算假设的。第三类是模型评估与基准建设者:这条信号示范了把“每应用成本”和“得分”放在同一张图上、用箭头标注单体到同推理强度团队的做法,比只报分数更能影响决策。

可以怎么行动

  • 先拉满单体,再考虑加 agent。既然最大推理强度下团队无优势,默认流程应该是单智能体 + 最高推理档,只有在实测证明不够时才引入编排层。
  • 按任务结构决定并行。可切分的检索、数学、可并行的代码子任务可以尝试并行;强线性、强上下文依赖的任务(长篇写作等)保持单体。
  • 把评估指标从“分数”改成“每应用成本 vs 分数”。只看得分会让团队配置看起来总能“赢一点”,而这一点在生产环境里可能不划算。
  • 显性核算协调税。把 agent 间通信、重试、冲突消解带来的 token 单独记账,让协调成本可见,再决定扩不扩容。
  • 扩规模前先做小规模消融。10→100 只带来“略微上抬”的案例说明,规模化的边际收益需要在小规模先被验证,而不是先扩再调。

风险与限制

这条信号的证据面并不宽:核心对照来自 Vals AI 的一个基准(Vibe Code Bench)和两个具体模型,团队如何编排、agent 数量如何设定、prompt 结构如何,原文没有给出,所以“团队”这个变量内部差异可能很大。统计上只有一次显著,也意味着其余对比更接近“不确定”而不是“确定的无效”。成本给的是相对倍数而非绝对金额,落到实处还要按自己的单价换算。

另外,Anthropic 的观察里有一条容易被忽略的正面信息:更大的团队确实更快到达某一性能水平。所以准确的结论不是“多智能体没用”,而是“在质量维度上它的边际回报很薄,在时间维度上它确实能买到速度”——而速度对某些场景(交互式编码、延迟敏感的前台任务)本身就是价值。最后,Brown 明确说超大规模 agent 仍基本未被探索,原因是成本太高,这意味着这是一个尚未被证伪、但当前不划算的区间,而不是一条永久性的结论。

信息差价值

这条内容的真正价值,不只是“有人发布了一个新功能”,而是它揭示了 the-decoder.com 背后的产品方向、工作流变化或竞争信号。对 OPC 来说,这种信息可以转化成持续追踪的栏目选题。

如果把《研究发现:AI 智能体团队狂烧 token,质量提升却几乎无法衡量》放到你的内容系统里,它最大的价值在于帮助读者更快看懂“为什么值得关注”,而不是只看到一条碎片化动态。

参考来源

AI SUMMARY

这篇文章回答了什么

研究发现:AI 智能体团队狂烧 token,质量提升却几乎无法衡量主要讲什么?

评估公司 Vals AI 在 Vibe Code Bench 上对比 GPT-6 Sol 与 Claude Opus 5.5 的单智能体与多智能体团队表现:团队成本是单体的 1.8 至 5.1 倍,四次对比中仅一次出现统计显著提升。Anthropic 与 OpenAI 研究者的观察也指向同一结论——多智能体主要买到的是速度,不是质量。

这篇文章最值得关注的要点是什么?

评估公司 Vals AI 在 Vibe Code Bench 上对比 GPT-6 Sol 与 Claude Opus 5.5 的单智能体与多智能体团队表现:团队成本是单体的 1.8 至 5.1 倍,四次对比中仅一次出现统计显著提升。Ant…;原贴提到:AI agent teams deliver almost no better results than single agents, rese;来源:the-decoder.com

这篇文章和哪些AI专题相关?

它适合放在Agent工作流、AI副业、AI工具专题里阅读。 关联原因:这篇内容命中「Agent、智能体」等主题信号。;这篇内容命中「项目、小生意、变现」等主题信号。;这篇内容命中「模型、Claude」等主题信号。

阅读这篇文章建议先理解哪些关键词?

建议先理解AI工具、工具、自动化、模型、Cursor这些关键词,再结合正文判断工具、机会或风险是否值得进入自己的工作流。

上一篇 华为拟将 HarmonyOS 推向全球市场 下一篇 AI 智能体夸大自身成果,仍远未实现自主研究,研究发现
北竹游乐场 免费玩小游戏 免费玩