觉
AI觉醒星球
Awakening is here
Knowledge File / AI技能杠杆
2026-09-04 2 浏览 免费阅读

面向更快工具使用智能体的投机宏提交

arXiv 新论文提出 Speculative Macro Commit(SMC),一种面向工具型 LLM 智能体的双层运行时机制:权威行动者生成官方轨迹,快速起草者在隔离快照中预测并预执行未来动作链,命中后提交剩余步骤与观察。论文在 τ²-Bench Telecom 和 AppWorld 上报告了两位数延迟下降,但 AppWorld 任务完成率略有下降。

SOURCE / AI技能杠杆 MIN / 4 ACCESS / 免费阅读 POST / 2026-09-04 12:00:00

原贴

查看原文
作者:Zeyu Liu, Souvik Kundu, Peter A. Beerel 来源站点:arxiv.org 原贴时间:

原文

arXiv:2609.03236v1 Announce Type: new Abstract: Tool-using LLM agents spend wall-clock time not only on model inference but also in serial action--observation turns, where each tool call, environment transition, and observation can delay subsequent decisions. We introduce \textbf{Speculative Macro Commit} (SMC), a runtime mechanism for a two-tier agent system: a large authoritative actor model produces the official trajectory, while a faster speculative drafter model continuously predicts and executes future action chains on an isolated environment snapshot. SMC mines recurring multi-action skeletons from training traces and stores them in a macro library used to match against action chains predicted by the drafter at runtime. When the actor's next tool call matches the first drafted action, SMC commits the remaining pre-executed draft steps, together with their observations, to the official trajectory. Using Qwen3.5-27B INT4 as the authoritative actor model and Qwen3.5-4B as the speculative drafter model, SMC matches the sequential agent's overall accuracy while reducing latency by 10.23\% over the Speculative Actions (SA) baseline and 18.59\% over sequential execution on the $\tau^2$-Bench Telecom subset. On AppWorld, SMC reduces wall time by 7.7\% over SA baseline and 44.9\% over sequential execution, with a small reduction in task completion. Overall, SMC provides a practical way to reuse multi-step speculative execution and reduce agent latency beyond single-step speculative actions. Our code is publicly available \href{https://github.com/zeyuliu1037/speculative-macro-commit}{\textcolor{magenta}{here}}.

中文翻译

使用工具的LLM智能体不仅将墙上时钟时间花在模型推理上,也花在串行的动作—观察轮次上,其中每次工具调用、环境转换和观察都可能延迟后续决策。我们引入投机宏提交(Speculative Macro Commit, SMC),一种用于双层智能体系统的运行时机制:一个大型权威行动者模型产生官方轨迹,而一个更快的投机起草者模型在隔离的环境快照上持续预测并执行未来动作链。SMC从训练轨迹中挖掘反复出现的多动作骨架,并将其存储在宏库中,用于在运行时匹配起草者预测的动作链。当行动者的下一次工具调用与第一个起草动作匹配时,SMC将其余预先执行的起草步骤及其观察提交到官方轨迹。使用Qwen3.5-27B INT4作为权威行动者模型,Qwen3.5-4B作为投机起草者模型,SMC在τ²-Bench Telecom子集上达到顺序智能体的总体准确率,同时相比Speculative Actions (SA)基线降低10.23%延迟,相比顺序执行降低18.59%。在AppWorld上,SMC相比SA基线减少7.7%墙上时间,相比顺序执行减少44.9%,任务完成略有下降。总体而言,SMC提供了一种实用方法,可复用多步投机执行,并在单步投机动作之外进一步降低智能体延迟。我们的代码公开可用,见此处。

核心信息

arXiv 新论文提出 Speculative Macro Commit(SMC),一种面向工具型 LLM 智能体的双层运行时机制:权威行动者生成官方轨迹,快速起草者在隔离快照中预测并预执行未来动作链,命中后提交剩余步骤与观察。论文在 τ²-Bench Telecom 和 AppWorld 上报告了两位数延迟下降,但 AppWorld 任务完成率略有下降。

  • arXiv 新论文提出 Speculative Macro Commit(SMC),一种面向工具型 LLM 智能体的双层运行时机制:权威行动者生成官方轨迹,快速起草者在隔离快照中预测并预执行未来动作链,命中后提交剩余步骤与观察。论文在 τ²-Bench Telecom 和 AppWorld 上报告了两位数延迟下降,但 AppWorld 任务完成率略有下降。
  • 原贴提到:arXiv:2609.03236v1 Announce Type: new Abstract: Tool-using LLM agents sp
  • 来源:arxiv.org

详细解读

这是什么信号

arXiv 新论文提出 Speculative Macro Commit(SMC),把工具型 LLM 智能体的延迟问题从单步投机执行推进到多步宏执行。它让大模型作为权威行动者生成官方轨迹,小模型作为投机起草者在隔离环境快照中预跑未来动作链;当行动者下一步工具调用命中起草动作时,系统把后续预执行步骤和观察一次性提交到官方轨迹。

为什么重要

工具型智能体的耗时不只来自模型推理,还来自串行的动作—观察循环。每一次工具调用、环境状态变化和观察返回都会阻塞后续决策。SMC 的价值在于复用从训练轨迹中挖掘的多动作骨架,把“等待下一次观察”变成“提前执行并提交”,这比单步投机动作更贴近真实工作流中的连续工具调用。

论文报告在 τ²-Bench Telecom 子集上,SMC 与顺序智能体总体准确率持平,相比 Speculative Actions 基线降低 10.23% 延迟,相比顺序执行降低 18.59%;在 AppWorld 上,相比 SA 降低 7.7% 墙上时间,相比顺序执行降低 44.9%,但任务完成率略有下降。这说明多步投机能显著换时间,但不是零代价。

对谁有价值

对正在构建工具调用型 Agent 的团队最有价值:包括做客服自动化、企业流程自动化、API 编排、浏览器操作和任务型 Agent 的产品与工程团队。对只做单轮对话或轻量 RAG 的应用,收益有限;对工具链长、动作可预测、环境可快照复制的场景,收益更直接。

可以怎么行动

  • 评估现有 Agent 执行链路,找出串行动作—观察轮次占比最高的环节。
  • 尝试双层模型架构:权威行动者负责最终决策,轻量起草者负责预测并执行候选动作链。
  • 建立宏库,从历史轨迹中提取高频多动作骨架,用于运行时匹配和复用。
  • 在隔离快照中预执行工具调用,设计好命中提交、回滚和一致性校验机制。
  • 用准确率、延迟、任务完成率、额外算力消耗四个指标做 A/B 评估,而不是只看延迟。

风险与限制

论文中的效果来自特定模型组合和基准,迁移到其他模型、工具集和环境不一定复现。AppWorld 上任务完成率略降,说明投机执行可能带来错误提交或状态不一致。工具调用若有副作用,预执行必须隔离、可回滚,否则会引入安全与合规风险。宏库也需要持续维护,工作流变化后可能失效。总体看,SMC 是一个值得验证的工程方向,但不应在缺少隔离和评估机制时直接上生产。

信息差价值

这条内容的真正价值,不只是“有人发布了一个新功能”,而是它揭示了 arxiv.org 背后的产品方向、工作流变化或竞争信号。对 OPC 来说,这种信息可以转化成持续追踪的栏目选题。

如果把《面向更快工具使用智能体的投机宏提交》放到你的内容系统里,它最大的价值在于帮助读者更快看懂“为什么值得关注”,而不是只看到一条碎片化动态。

参考来源

AI SUMMARY

这篇文章回答了什么

面向更快工具使用智能体的投机宏提交主要讲什么?

arXiv 新论文提出 Speculative Macro Commit(SMC),一种面向工具型 LLM 智能体的双层运行时机制:权威行动者生成官方轨迹,快速起草者在隔离快照中预测并预执行未来动作链,命中后提交剩余步骤与观察。论文在 τ²-Bench Telecom 和 AppWorld 上报告了两位数延迟下降,但 AppWorld 任务完成率略有下降。

这篇文章最值得关注的要点是什么?

arXiv 新论文提出 Speculative Macro Commit(SMC),一种面向工具型 LLM 智能体的双层运行时机制:权威行动者生成官方轨迹,快速起草者在隔离快照中预测并预执行未来动作链,命中后提交剩余步骤与观察。论文在 τ…;原贴提到:arXiv:2609.03236v1 Announce Type: new Abstract: Tool-using LLM agents sp;来源:arxiv.org

这篇文章和哪些AI专题相关?

它适合放在Agent工作流、AI工具、AI超级个体专题里阅读。 关联原因:这篇内容命中「Agent、智能体、工作流」等主题信号。;这篇内容命中「工具、自动化、模型」等主题信号。;这篇内容命中「技能」等主题信号。

阅读这篇文章建议先理解哪些关键词?

建议先理解AI工具、工具、自动化、模型、Cursor这些关键词,再结合正文判断工具、机会或风险是否值得进入自己的工作流。

上一篇 ByteDance 发布 HarnessDev 论文:LLM 能自建 Agent harness,但跨模型迁移仍受限 下一篇 记忆是新的,计划是旧的:分布式 LLM 智能体记忆的依赖范围校验