The Decoder ↗ · 2026-11-21 04:31 · UTC+8
OpenAI 进一步加大攻击者提取其最新 AI 模型思考过程的难度
媒体报道 The Decoder 原文语言:英文
OpenAI 显著收紧了 GPT-6.2 Astra 和 GPT-6.2 Sol 模型中提取内部推理的防护措施。内部自动化测试显示,提取先前请求中受保护推理的攻击成功率从 GPT-6 Astra 的 54.0% 降至 GPT-6.2 Astra 的 0.2%,而针对活跃请求的攻击成功率则从 22.9% 降至 0.9%。
全文
Matthias Bastian 查看 Matthias Bastian 的 LinkedIn 个人资料 2026年11月20日
简短新闻
OpenAI 让攻击者更难提取其最新 AI 模型的思考方式
OpenAI 大幅加强了对 GPT-6.2 Astra 和 GPT-6.2 Sol 的内部推理提取防护。在内部自动化测试中,从先前请求中提取受保护推理的攻击成功率从 GPT-6 Astra 的 54.0% 降至 GPT-6.2 Astra 的 0.2%。对活跃请求的攻击成功率从 22.9% 降至 0.9%,OpenAI 表示。该公司现在也在为 GPT-6 Astra 引入部分改进。
防御机制分为两层。针对单个请求,系统结合了针对性的训练、针对消息和工具调用的输入输出过滤器,以及阻止旧模型读取受保护推理的 API 阻断。针对协同攻击活动,OpenAI 每周封禁数千至数万账户。
攻击类型 GPT-6 Astra(原始防护)– 自适应提取成功率(ASR %) GPT-6.2 Astra(更新防护)– 自适应提取成功率(ASR %)
从先前请求中提取受保护推理 54.0 0.2
从当前请求中提取受保护推理 22.9 0.9
针对 GPT-6 Astra 和 GPT-6.2 Astra 的自适应黑盒红队攻击成功率(ASR),汇总自六个攻击模型。数值越低越好。
Anthropic 也在对抗系统性蒸馏攻击,同样封禁数万账户以遏制内部推理被盗,据称成功率在 90% 到 99% 之间。Anthropic 还呼吁行业和政策制定者进行协调响应。
正文为 AI 译文。