觉
AI觉醒星球
Awakening is here
AI小生意项目库 · 阅读档案
2026-11-21 1 浏览 免费阅读

OpenAI 大幅提高攻击者提取其最新模型思维过程的难度

OpenAI 表示,已针对 GPT-6.2 Astra 和 GPT-6.2 Sol 收紧防护,使从历史请求中提取受保护推理的攻击成功率从 54.0% 降至 0.2%,针对活跃请求的攻击成功率从 22.9% 降至 0.9%;部分改进也已回补至 GPT-6 Astra。防御同时覆盖两个层面:单次请求的技术加固,以及面向有组织攻击的批量封号。Anthropic 也在做类似反蒸馏,并呼吁行业与政策制定者协同应对。

AI小生意项目库 约 9 分钟读完 免费阅读 原文 2026-11-21 04:31:50

原贴

查看原文
作者:Matthias Bastian 来源站点:the-decoder.com 原贴时间:

原文

OpenAI has sharply tightened safeguards against extracting internal reasoning from GPT-6.2 Astra and GPT-6.2 Sol. In internal automated tests, attacks pulling protected reasoning from prior requests dropped from a 54.0 percent success rate on GPT-6 Astra to 0.2 percent on GPT-6.2 Astra. Attacks on active requests fell from 22.9 to 0.9 percent, OpenAI says . The company is now bringing selected improvements to GPT-6 Astra, too. The defenses work on two levels. For individual requests, the systems combine targeted training, input and output filters for messages and tool calls, and API blocks that stop older models from reading protected reasoning. Against coordinated campaigns, OpenAI bans thousands to tens of thousands of accounts weekly. Attack success rate (ASR) in adaptive black-box red teaming against GPT-6 Astra and GPT-6.2 Astra, aggregated across six attacker models. Lower is better. Ad Anthropic is fighting systematic distillation attacks as well , also banning tens of thousands of accounts to curb the theft of internal reasoning, reportedly succeeding in 90 to 99 percent of cases. Anthropic has also called for a coordinated response from industry and policymakers . Ad

中文翻译

OpenAI 大幅收紧了针对从 GPT-6.2 Astra 和 GPT-6.2 Sol 中提取内部推理的防护措施。

在内部自动化测试中,从先前请求中提取受保护推理的攻击,其成功率从 GPT-6 Astra 上的 54.0% 降至 GPT-6.2 Astra 上的 0.2%。

OpenAI 表示,针对活跃请求的攻击从 22.9% 降至 0.9%。

该公司现在也在将部分改进引入 GPT-6 Astra。

这些防御在两个层面起作用。

针对单个请求,系统结合了有针对性的训练、对消息和工具调用的输入与输出过滤,以及阻止旧模型读取受保护推理的 API 拦截。

针对有组织的协同攻击行动,OpenAI 每周封禁数千到数万个账户。

针对 GPT-6 Astra 和 GPT-6.2 Astra 的自适应黑盒红队测试中的攻击成功率(ASR),汇总自六个攻击者模型。越低越好。

Anthropic 也在对抗系统性蒸馏攻击,同样封禁数万个账户以遏制内部推理被盗,据报道在 90% 到 99% 的情况下取得成功。Anthropic 还呼吁行业和政策制定者做出协同应对。

核心信息

OpenAI 表示,已针对 GPT-6.2 Astra 和 GPT-6.2 Sol 收紧防护,使从历史请求中提取受保护推理的攻击成功率从 54.0% 降至 0.2%,针对活跃请求的攻击成功率从 22.9% 降至 0.9%;部分改进也已回补至 GPT-6 Astra。防御同时覆盖两个层面:单次请求的技术加固,以及面向有组织攻击的批量封号。Anthropic 也在做类似反蒸馏,并呼吁行业与政策制定者协同应对。

  • OpenAI 表示,已针对 GPT-6.2 Astra 和 GPT-6.2 Sol 收紧防护,使从历史请求中提取受保护推理的攻击成功率从 54.0% 降至 0.2%,针对活跃请求的攻击成功率从 22.9% 降至 0.9%;部分改进也已回补至 GPT-6 Astra。防御同时覆盖两个层面:单次请求的技术加固,以及面向有组织攻击的批量封号。Anthropic 也在做类似反蒸馏,并呼吁行业与政策制定者协同应对。
  • 原贴提到:OpenAI has sharply tightened safeguards against extracting internal reas
  • 来源:the-decoder.com

详细解读

这是什么信号

这是一条关于“推理链正在被当作核心资产保护起来”的工程化信号,并非泛泛的安全公关稿。OpenAI 给出了两组可对比的数字:从历史请求中提取受保护推理的攻击成功率,从 GPT-6 Astra 的 54.0% 降到 GPT-6.2 Astra 的 0.2%;针对活跃请求的攻击成功率从 22.9% 降到 0.9%。这说明防御不再只是策略声明,而是被拆成了可以量化、可以迭代的红队指标。更关键的是,改进被回补到 GPT-6 Astra,说明厂商把“防提取”当作跨代际的基础能力来维护,而不是只给新模型打补丁。

防御结构也值得注意。单请求层面是三层叠加:针对性训练、对消息与工具调用的输入输出过滤、以及阻止旧模型读取受保护推理的 API 拦截。协同攻击层面则是运营手段:每周封禁数千到数万个账户。技术加固和账号治理同时上,说明对方已经承认纯技术手段无法覆盖所有提取路径。

为什么重要

第一,推理过程正在成为模型厂商真正的竞争壁垒。权重可以不开源,但推理链一旦被大量提取,等于把“怎么想出来的”变成可复用的训练数据,这对模型厂商是直接的资产流失。第二,竞争层面已经同步:Anthropic 也在对抗系统性蒸馏攻击,封禁量级同样是数万账户,并声称在 90% 到 99% 的情况下成功,还呼吁行业与政策制定者协同。这意味着“反蒸馏”正在从单家公司的风控动作变成行业性规范议题,后续很可能演化为 API 条款、合规审计甚至监管要求。第三,评测范式在变化:自适应黑盒红队、跨六个攻击者模型聚合 ASR,这套方法本身就是对“模型安全能不能被度量”的一次回答。

对谁有价值

  • 重度调用前沿模型 API 的产品与 agent 团队:你们的推理链路是否依赖模型输出思维过程,直接决定供应商这类加固会不会打断你们的功能。
  • 企业安全与合规负责人:供应商的防提取强度、封号策略、条款变化,属于采购评估的实质项,而非形式项。
  • 做模型评测或红队的安全团队:这是一套可借鉴的指标体系(历史请求、活跃请求分离统计,多攻击者模型聚合)。
  • 做蒸馏、微调、数据合成的一方:合规风险与账号风险同时上升,需要重新评估路径。
  • 关注 AI 商业格局的投资与战略研究者:推理链保护正在成为模型厂商护城河的一部分。

可以怎么行动

实操上,第一步是自查依赖度:产品里有多少关键链路依赖模型的显式推理输出、有多少依赖隐藏推理的间接结果。凡是把“思维链文本”当作输入再做二次处理的设计,都要准备降级方案。第二步是把“推理是否可被提取”写进供应商评估清单,和价格、延迟、上下文长度放在同一张表里。第三步是对自己的调用行为做合规体检,尤其是多账号、大规模批量调用、结构化提示词批量抽取这类模式,在封号策略收紧后属于高风险动作。第四步,如果团队有能力,建立一套轻量的提取红队脚本,定期测自家依赖的模型,把 ASR 这类指标纳入季度复盘,而不是等厂商公告。

风险与限制

需要清醒看待几点。其一,这些数字来自 OpenAI 内部自动化测试和自适应黑盒红队,测试条件与真实攻击者的资源、耐心、创造力之间仍有差距,0.2% 不等于零,长期对抗中攻击面会转移。其二,防护收紧存在误伤可能:可解释性研究、调试、安全审计、合法的模型行为分析,都可能被更严格的过滤和 API 拦截挡住,厂商没有在这条信息里说明如何区分。其三,每周封禁数千到数万个账户的运营手段,对合法的高频批量调用者是不确定性风险,可能波及正常业务。其四,Anthropic 的 90% 到 99% 成功率同样是自报口径,缺乏第三方交叉验证。其五,蒸馏攻击的本质是经济问题,只要提取的收益高于成本,攻防就会持续拉锯,这类加固更像是抬高成本,而非终止问题。

信息差价值

这条内容的真正价值,不只是“有人发布了一个新功能”,而是它揭示了 the-decoder.com 背后的产品方向、工作流变化或竞争信号。对 OPC 来说,这种信息可以转化成持续追踪的栏目选题。

如果把《OpenAI 大幅提高攻击者提取其最新模型思维过程的难度》放到你的内容系统里,它最大的价值在于帮助读者更快看懂“为什么值得关注”,而不是只看到一条碎片化动态。

参考来源

AI SUMMARY

这篇文章回答了什么

OpenAI 大幅提高攻击者提取其最新模型思维过程的难度主要讲什么?

OpenAI 表示,已针对 GPT-6.2 Astra 和 GPT-6.2 Sol 收紧防护,使从历史请求中提取受保护推理的攻击成功率从 54.0% 降至 0.2%,针对活跃请求的攻击成功率从 22.9% 降至 0.9%;部分改进也已回补至 GPT-6 Astra。防御同时覆盖两个层面:单次请求的技术加固,以及面向有组织攻击的批量封号。Anthropic…

这篇文章最值得关注的要点是什么?

OpenAI 表示,已针对 GPT-6.2 Astra 和 GPT-6.2 Sol 收紧防护,使从历史请求中提取受保护推理的攻击成功率从 54.0% 降至 0.2%,针对活跃请求的攻击成功率从 22.9% 降至 0.9%;部分改进也已回补…;原贴提到:OpenAI has sharply tightened safeguards against extracting internal reas;来源:the-decoder.com

这篇文章和哪些AI专题相关?

它适合放在AI副业、AI工具专题里阅读。 关联原因:这篇内容命中「项目、小生意、变现」等主题信号。;这篇内容命中「模型」等主题信号。

阅读这篇文章建议先理解哪些关键词?

建议先理解AI工具、工具、自动化、模型、Cursor这些关键词,再结合正文判断工具、机会或风险是否值得进入自己的工作流。

上一篇 Google Duplex 如何演进为 Gemini 中替你致电商家的能力 下一篇 彭博分析1000万条招聘信息:中国AI高暴露岗位降幅快10个百分点
北竹游乐场 免费玩小游戏 免费玩