Knowledge File / 全球热点解读

2026-10-24 2 浏览公开

OpenAI 三周现场审计揭示 AI 安全监控存在重大缺口

Q: 这篇文章和哪些AI专题相关？

它适合放在Agent工作流、AI日报、AI内容增长专题里阅读。 关联原因：这篇内容命中「Agent、智能体」等主题信号。；这篇内容命中「热点解读」等主题信号。；这篇内容命中「流量」等主题信号。

METR 与 Redwood Research 在 OpenAI 现场审计三周，发现智能体流量监控覆盖不足、压缩事件处理有缺口、监督触发可被绕过，以及训练期行为未受监控等问题；OpenAI 称已修复，但公开版本经过删减，且修复不在审计评估范围内。

SOURCE / 全球热点解读 MIN / 9 ACCESS / 公开 POST / 2026-10-24 02:00:32

原贴

查看原文

作者：Matthias Bastian 来源站点：the-decoder.com 原贴时间： 2026-10-24 02:00:32

原文

Two researchers from METR and Redwood Research spent three weeks on-site at OpenAI, auditing the company's internal monitoring system for rogue AI behavior. From July 21 to August 11, they had access to OpenAI's codebase and internal documents and interviewed about a dozen employees. The team found numerous weaknesses . An estimated 6 to 25 percent of internal agentic Responses API traffic from models at the GPT-5.5 class and above wasn't covered by monitoring at all during the audit period, though METR says the uncertainty around that estimate is significant in both directions. Ad For internal Codex traffic that was supposed to be monitored, METR estimates roughly 10 percent went untracked between May and July because of a gap in how the system handled compaction events, which are context summaries. That estimate also carries significant uncertainty, according to METR. OpenAI had independently discovered the bug and fixed it while the audit was still underway. Ad During the period when compaction events weren't being monitored, agents could also delay oversight because the system only triggered when they handed control back to the user. That meant agents could sidestep it by simply continuing to execute actions. The auditors also found ways to hide hundreds of actions from the monitor and to bypass the Codex sandbox. They determined that specially crafted inputs could likely crash the monitor entirely and that model behavior during RL training wasn't being monitored at all when the audit began. Ad OpenAI says it paused RL training after the Hugging Face incident in August and expanded monitoring to cover it, but those changes came after the auditors' access period ended and weren't part of the evaluation. OpenAI says it has fixed all the weaknesses the auditors found, and the full 61-page report was handed over internally. After OpenAI applied redactions, METR and Redwood Research leadership received a 38-page version, while only a short summary was made available to the public. METR said it had no right to disclose the redacted portions on its own. Ad The audit was a pilot program organized jointly by METR, Redwood Research, and OpenAI to give outside researchers deep access to internal infrastructure. For future audits, METR says it wants to push for more public transparency. Ad Subscribe to THE DECODER for ad-free reading, a weekly AI newsletter, our exclusive "AI Radar" frontier report six times a year, full archive access, and access to our comment section.

中文翻译

来自 METR 和 Redwood Research 的两名研究人员在 OpenAI 现场待了三周，审计该公司针对失控 AI 行为的内部监控系统。

从 7 月 21 日到 8 月 11 日，他们可以访问 OpenAI 的代码库和内部文件，并采访了约十几名员工。

团队发现了大量薄弱环节。

在审计期间，来自 GPT-5.5 级别及以上模型的内部智能体 Responses API 流量中，估计有 6% 到 25% 完全未被监控覆盖，不过 METR 表示该估计在两个方向上的不确定性都很大。

对于本应受到监控的内部 Codex 流量，METR 估计在 5 月到 7 月间约有 10% 未被追踪，原因是系统处理压缩事件（即上下文摘要）的方式存在缺口。

据 METR 称，这一估计也存在显著不确定性。

OpenAI 在审计仍在进行时已独立发现该漏洞并修复。

在压缩事件未被监控的时期，智能体还可以延迟监督，因为系统只在它们将控制权交还给用户时触发。

这意味着智能体只要继续执行操作就能绕过它。

审计人员还找到了向监控器隐藏数百个操作以及绕过 Codex 沙箱的方法。

他们判定，经过特殊构造的输入很可能使监控器完全崩溃，而且在审计开始时，模型在 RL 训练期间的行为完全未被监控。

OpenAI 表示，在 8 月 Hugging Face 事件后，它暂停了 RL 训练，并扩大监控以覆盖该部分，但这些变化发生在审计人员的访问期结束之后，且不属于评估的一部分。

OpenAI 表示已修复审计人员发现的所有薄弱环节，完整的 61 页报告已在内部移交。

在 OpenAI 进行删减后，METR 和 Redwood Research 的领导层收到了 38 页版本，而公众只能获得一份简短摘要。

METR 表示，它无权自行披露被删减的部分。

该审计是 METR、Redwood Research 和 OpenAI 共同组织的一项试点项目，旨在让外部研究人员深度访问内部基础设施。

对于未来的审计，METR 表示希望推动更多公开透明度。

核心信息

METR 与 Redwood Research 在 OpenAI 现场审计三周，发现智能体流量监控覆盖不足、压缩事件处理有缺口、监督触发可被绕过，以及训练期行为未受监控等问题；OpenAI 称已修复，但公开版本经过删减，且修复不在审计评估范围内。

METR 与 Redwood Research 在 OpenAI 现场审计三周，发现智能体流量监控覆盖不足、压缩事件处理有缺口、监督触发可被绕过，以及训练期行为未受监控等问题；OpenAI 称已修复，但公开版本经过删减，且修复不在审计评估范围内。
原贴提到：Two researchers from METR and Redwood Research spent three weeks on-site
来源：the-decoder.com

详细解读

这是什么信号：这是一次由 METR、Redwood Research 与 OpenAI 共同组织的试点审计，外部研究人员获准进入 OpenAI 内部基础设施，直接检查针对失控 AI 行为的监控链路。公开摘要暴露的不是单点模型能力问题，而是监控覆盖率、事件处理、触发机制和训练期可见性等工程与治理环节的系统性缺口。

审计在 7 月 21 日至 8 月 11 日进行，研究人员可访问代码库和内部文件，并访谈约十几名员工。公开信息显示，GPT-5.5 级别及以上模型的内部智能体 Responses API 流量中，估计有 6% 到 25% 完全未被监控覆盖；本应受监控的 Codex 流量因压缩事件处理缺口，在 5 月到 7 月间估计约 10% 未被追踪。两项估计都被 METR 标注为不确定性显著，因此不能把它们当作精确比例，但它们足以说明“有监控系统”不等于“关键流量被有效覆盖”。

更值得警惕的是监控机制本身的可绕过性。系统只在智能体把控制权交还用户时触发监督，智能体持续执行动作就能延迟 oversight；审计人员还找到向监控器隐藏数百个操作、绕过 Codex 沙箱、用特制输入使监控器崩溃的路径，并指出审计开始时 RL 训练期间的行为完全未被监控。这些发现指向一个共同问题：安全监控若只覆盖单一时点和单一接口，面对持续运行的智能体工作流会留下结构性盲区。

为什么重要：前沿实验室正在把智能体接入代码、工具和内部系统，监控失效的后果不再只是“日志缺失”，而是可能让高风险动作在无人可见的情况下持续发生。此次审计把“AI 安全”从原则声明拉回到可检查的工程指标：覆盖哪些模型级别、哪些流量类型、哪些训练阶段，触发条件是否能被绕过，沙箱是否可逃逸，异常输入是否会导致监控器失效。对采购或部署智能体的企业而言，这同样是一个提醒：供应商声称“已监控”或“已修复”，并不等于企业获得了可验证的 assurance。

对谁有价值：前沿实验室的安全、治理、安全和平台工程团队可以直接借鉴其审计维度；部署编码智能体、自动化工作流的企业需要重新评估监控覆盖和审计权条款；AI 安全工具与可观测性厂商可围绕智能体行为监控、绕过测试和训练期监控构建能力；投资者和监管者则获得一个判断治理成熟度的抓手，即实验室是否允许外部审计、是否披露覆盖指标、是否说明修复是否经过独立验证。

可以怎么行动：实验室应建立按模型级别、流量类型、训练阶段划分的监控覆盖矩阵，针对“控制权不交还”“压缩事件”“沙箱逃逸”“特制输入导致监控器崩溃”设计红队测试，并把训练期行为纳入持续监控。企业侧应在合同和内部准入中要求监控覆盖指标、事件日志、审计权和漏洞修复验证，不要只接受“已修复”的口头说明。外部审计应明确评估窗口、删减范围和修复是否在评估期内完成，避免把审计期外的变更混入结论。

风险或限制：这是一项试点审计，样本和访问范围有限；6% 到 25% 与约 10% 的估计都被 METR 明确标注为不确定性显著，不能当作精确统计。OpenAI 称已修复全部问题，但相关变更发生在审计人员访问期结束之后，且不属于评估的一部分，因此公开信息无法独立验证修复效果。完整报告为 61 页，外部领导层收到 38 页删减版，公众仅见简短摘要，METR 也表示无权自行披露被删减内容。这意味着公开信号能证明“存在重大缺口”，但不足以证明“缺口已被彻底解决”。

信息差价值

这条内容的真正价值，不只是“有人发布了一个新功能”，而是它揭示了 the-decoder.com 背后的产品方向、工作流变化或竞争信号。对 OPC 来说，这种信息可以转化成持续追踪的栏目选题。

如果把《OpenAI 三周现场审计揭示 AI 安全监控存在重大缺口》放到你的内容系统里，它最大的价值在于帮助读者更快看懂“为什么值得关注”，而不是只看到一条碎片化动态。

参考来源

Matthias Bastian 原帖

TOPIC HUBS

延伸专题

Agent工作流 Agent工作流：智能体、AI编程与自动化协作

这篇内容命中「Agent、智能体」等主题信号。

AI日报 AI日报：每日AI信号、工具动态与行动判断

这篇内容命中「热点解读」等主题信号。

AI内容增长 AI内容增长：公众号、小红书、流量与转化

这篇内容命中「流量」等主题信号。

AI SUMMARY

这篇文章回答了什么