Science One 框架:通过证据链实现可验证的自主研究框架
Google Cloud 推出 Science One 实验性研究框架和 CoE Audit 审计协议,通过 Chain-of-Evidence 证据链消除 AI 科研中的幻觉引用和不可复现问题,实现零幽灵引用并保持 SOTA 性能。
原贴
查看原文原文
中文翻译
Rui Meng,研究科学家,以及 Tomas Pfister,谷歌云总监。介绍 Science One 框架,一个实验性研究原型,旨在通过原生构建可验证的证据链来消除幻觉,以及 CoE Audit,一种评估 AI 生成论文完整性的自动化协议。
大型语言模型(LLM)不仅作为编码助手,而且作为能够执行端到端科学研究工作流的自主代理被越来越多地部署。最近的系统(例如 Sakana 的 AI-Scientist、AutoResearchClaw、DeepScientist、AI-Researcher)可以审查文献、制定假设、执行实验并写出与人类作者相当的完整手稿。然而,随着这些 AI 生成手稿的表面质量提高,一个关键的结构性问题出现了:可验证性。由于当前的自主研究流水线迭代地生成文本,任何阶段引入的错误都会被放大。一些现有系统可以生成不存在的引用,描述的方法与实际代码之间出现偏差,并报告无法从提供的代码完全复现的实验分数。
在我们的论文中,我们通过引入 Chain-of-Evidence(CoE)来解决这个问题,这是一个用于 AI 驱动研究的新可验证性框架。我们用 Science One Framework(一个原生构建和维护证据链的自主研究原型)以及 CoE Audit(一套自动化评估指标,用于衡量 AI 生成论文与其底层代码和证据的完整性)来实例化 CoE。我们的结果表明,基线系统最多幻觉了 21% 的引用,并且经常使代码和文本错位,而 Science One Framework 实现了零幽灵引用和完全可验证的分数,同时在 MLE-Bench 和 Parameter-Golf 等前沿基准上达到了最先进的性能。
CoE 是一个概念框架,定义了使研究工件可信的条件,就像 ACID 定义了数据库事务可靠的条件一样。该框架不规定如何构建研究代理,而是指定其输出必须具有的属性。它遵循一个原则的两个部分:研究工件中的每个声明必须带有记录的证据链(完整性),并且每条链必须真正支持其所附的声明(正确性)。声明可以是引用、报告的数字、方法描述或结论,必须链接回相应的证据,例如同行评审的论文、实验日志行、实际运行的代码或结果表。幻觉引用指向不存在的论文。不可复现的分数在代码重新运行时不会再次出现。错误描述的方法在论文中声称一种算法,而代码实现的是另一种。每个都是其证据链断裂的声明;CoE Audit 使这些断裂可测量。
为了证明可验证的 AI 研究在不牺牲问题解决性能的情况下是可能的,我们设计了 Science One Framework。与之前生成论文并追溯性尝试链接事实的代理不同,Science One Framework 通过三个主要模块从构造上实例化 CoE 框架:问题调查员(文献接地):为了防止幻觉引用,Science One Framework 通过 Semantic Scholar API 构建引用图。它每个主题最多阅读 100 份全文 PDF 以生成结构化的研究简报。最终论文中的每个引用都源自这个接地的 API 调用,完全消除了对模型记忆的依赖。发现引擎(并行探索-利用):Science One Framework 在多个并行分支中系统地探索和利用想法。在每个隔离的循环中,一个 Solver 代理实现一个解决方案,一个特定于任务的评估器对其进行评分。高性能分支是...
核心信息
Google Cloud 推出 Science One 实验性研究框架和 CoE Audit 审计协议,通过 Chain-of-Evidence 证据链消除 AI 科研中的幻觉引用和不可复现问题,实现零幽灵引用并保持 SOTA 性能。
- Google Cloud 推出 Science One 实验性研究框架和 CoE Audit 审计协议,通过 Chain-of-Evidence 证据链消除 AI 科研中的幻觉引用和不可复现问题,实现零幽灵引用并保持 SOTA 性能。
- 原贴提到:Rui Meng, Research Scientist, and Tomas Pfister, Director, Google Cloud
- 来源:research.google
成为会员查看完整内容
你已经看到了这篇内容的前置整理,剩余深度部分仅对会员开放。