OpenAI 大幅提高攻击者提取其最新模型思维过程的难度
OpenAI 表示,已针对 GPT-6.2 Astra 和 GPT-6.2 Sol 收紧防护,使从历史请求中提取受保护推理的攻击成功率从 54.0% 降至 0.2%,针对活跃请求的攻击成功率从 22.9% 降至 0.9%;部分改进也已回补至 GPT-6 Astra。防御同时覆盖两个层面:单次请求的技术加固,以及面向有组织攻击的批量封号。Anthropic 也在做类似反蒸馏,并呼吁行业与政策制定者协同应对。
原贴
查看原文原文
中文翻译
OpenAI 大幅收紧了针对从 GPT-6.2 Astra 和 GPT-6.2 Sol 中提取内部推理的防护措施。
在内部自动化测试中,从先前请求中提取受保护推理的攻击,其成功率从 GPT-6 Astra 上的 54.0% 降至 GPT-6.2 Astra 上的 0.2%。
OpenAI 表示,针对活跃请求的攻击从 22.9% 降至 0.9%。
该公司现在也在将部分改进引入 GPT-6 Astra。
这些防御在两个层面起作用。
针对单个请求,系统结合了有针对性的训练、对消息和工具调用的输入与输出过滤,以及阻止旧模型读取受保护推理的 API 拦截。
针对有组织的协同攻击行动,OpenAI 每周封禁数千到数万个账户。
针对 GPT-6 Astra 和 GPT-6.2 Astra 的自适应黑盒红队测试中的攻击成功率(ASR),汇总自六个攻击者模型。越低越好。
Anthropic 也在对抗系统性蒸馏攻击,同样封禁数万个账户以遏制内部推理被盗,据报道在 90% 到 99% 的情况下取得成功。Anthropic 还呼吁行业和政策制定者做出协同应对。
核心信息
OpenAI 表示,已针对 GPT-6.2 Astra 和 GPT-6.2 Sol 收紧防护,使从历史请求中提取受保护推理的攻击成功率从 54.0% 降至 0.2%,针对活跃请求的攻击成功率从 22.9% 降至 0.9%;部分改进也已回补至 GPT-6 Astra。防御同时覆盖两个层面:单次请求的技术加固,以及面向有组织攻击的批量封号。Anthropic 也在做类似反蒸馏,并呼吁行业与政策制定者协同应对。
- OpenAI 表示,已针对 GPT-6.2 Astra 和 GPT-6.2 Sol 收紧防护,使从历史请求中提取受保护推理的攻击成功率从 54.0% 降至 0.2%,针对活跃请求的攻击成功率从 22.9% 降至 0.9%;部分改进也已回补至 GPT-6 Astra。防御同时覆盖两个层面:单次请求的技术加固,以及面向有组织攻击的批量封号。Anthropic 也在做类似反蒸馏,并呼吁行业与政策制定者协同应对。
- 原贴提到:OpenAI has sharply tightened safeguards against extracting internal reas
- 来源:the-decoder.com
详细解读
这是什么信号
这是一条关于“推理链正在被当作核心资产保护起来”的工程化信号,并非泛泛的安全公关稿。OpenAI 给出了两组可对比的数字:从历史请求中提取受保护推理的攻击成功率,从 GPT-6 Astra 的 54.0% 降到 GPT-6.2 Astra 的 0.2%;针对活跃请求的攻击成功率从 22.9% 降到 0.9%。这说明防御不再只是策略声明,而是被拆成了可以量化、可以迭代的红队指标。更关键的是,改进被回补到 GPT-6 Astra,说明厂商把“防提取”当作跨代际的基础能力来维护,而不是只给新模型打补丁。
防御结构也值得注意。单请求层面是三层叠加:针对性训练、对消息与工具调用的输入输出过滤、以及阻止旧模型读取受保护推理的 API 拦截。协同攻击层面则是运营手段:每周封禁数千到数万个账户。技术加固和账号治理同时上,说明对方已经承认纯技术手段无法覆盖所有提取路径。
为什么重要
第一,推理过程正在成为模型厂商真正的竞争壁垒。权重可以不开源,但推理链一旦被大量提取,等于把“怎么想出来的”变成可复用的训练数据,这对模型厂商是直接的资产流失。第二,竞争层面已经同步:Anthropic 也在对抗系统性蒸馏攻击,封禁量级同样是数万账户,并声称在 90% 到 99% 的情况下成功,还呼吁行业与政策制定者协同。这意味着“反蒸馏”正在从单家公司的风控动作变成行业性规范议题,后续很可能演化为 API 条款、合规审计甚至监管要求。第三,评测范式在变化:自适应黑盒红队、跨六个攻击者模型聚合 ASR,这套方法本身就是对“模型安全能不能被度量”的一次回答。
对谁有价值
- 重度调用前沿模型 API 的产品与 agent 团队:你们的推理链路是否依赖模型输出思维过程,直接决定供应商这类加固会不会打断你们的功能。
- 企业安全与合规负责人:供应商的防提取强度、封号策略、条款变化,属于采购评估的实质项,而非形式项。
- 做模型评测或红队的安全团队:这是一套可借鉴的指标体系(历史请求、活跃请求分离统计,多攻击者模型聚合)。
- 做蒸馏、微调、数据合成的一方:合规风险与账号风险同时上升,需要重新评估路径。
- 关注 AI 商业格局的投资与战略研究者:推理链保护正在成为模型厂商护城河的一部分。
可以怎么行动
实操上,第一步是自查依赖度:产品里有多少关键链路依赖模型的显式推理输出、有多少依赖隐藏推理的间接结果。凡是把“思维链文本”当作输入再做二次处理的设计,都要准备降级方案。第二步是把“推理是否可被提取”写进供应商评估清单,和价格、延迟、上下文长度放在同一张表里。第三步是对自己的调用行为做合规体检,尤其是多账号、大规模批量调用、结构化提示词批量抽取这类模式,在封号策略收紧后属于高风险动作。第四步,如果团队有能力,建立一套轻量的提取红队脚本,定期测自家依赖的模型,把 ASR 这类指标纳入季度复盘,而不是等厂商公告。
风险与限制
需要清醒看待几点。其一,这些数字来自 OpenAI 内部自动化测试和自适应黑盒红队,测试条件与真实攻击者的资源、耐心、创造力之间仍有差距,0.2% 不等于零,长期对抗中攻击面会转移。其二,防护收紧存在误伤可能:可解释性研究、调试、安全审计、合法的模型行为分析,都可能被更严格的过滤和 API 拦截挡住,厂商没有在这条信息里说明如何区分。其三,每周封禁数千到数万个账户的运营手段,对合法的高频批量调用者是不确定性风险,可能波及正常业务。其四,Anthropic 的 90% 到 99% 成功率同样是自报口径,缺乏第三方交叉验证。其五,蒸馏攻击的本质是经济问题,只要提取的收益高于成本,攻防就会持续拉锯,这类加固更像是抬高成本,而非终止问题。
信息差价值
这条内容的真正价值,不只是“有人发布了一个新功能”,而是它揭示了 the-decoder.com 背后的产品方向、工作流变化或竞争信号。对 OPC 来说,这种信息可以转化成持续追踪的栏目选题。
如果把《OpenAI 大幅提高攻击者提取其最新模型思维过程的难度》放到你的内容系统里,它最大的价值在于帮助读者更快看懂“为什么值得关注”,而不是只看到一条碎片化动态。
参考来源
TOPIC HUBS
延伸专题
AI SUMMARY
这篇文章回答了什么
OpenAI 大幅提高攻击者提取其最新模型思维过程的难度主要讲什么?
OpenAI 表示,已针对 GPT-6.2 Astra 和 GPT-6.2 Sol 收紧防护,使从历史请求中提取受保护推理的攻击成功率从 54.0% 降至 0.2%,针对活跃请求的攻击成功率从 22.9% 降至 0.9%;部分改进也已回补至 GPT-6 Astra。防御同时覆盖两个层面:单次请求的技术加固,以及面向有组织攻击的批量封号。Anthropic…
这篇文章最值得关注的要点是什么?
OpenAI 表示,已针对 GPT-6.2 Astra 和 GPT-6.2 Sol 收紧防护,使从历史请求中提取受保护推理的攻击成功率从 54.0% 降至 0.2%,针对活跃请求的攻击成功率从 22.9% 降至 0.9%;部分改进也已回补…;原贴提到:OpenAI has sharply tightened safeguards against extracting internal reas;来源:the-decoder.com
这篇文章和哪些AI专题相关?
它适合放在AI副业、AI工具专题里阅读。 关联原因:这篇内容命中「项目、小生意、变现」等主题信号。;这篇内容命中「模型」等主题信号。
阅读这篇文章建议先理解哪些关键词?
建议先理解AI工具、工具、自动化、模型、Cursor这些关键词,再结合正文判断工具、机会或风险是否值得进入自己的工作流。