Newshot

OpenAI大幅提高攻击者提取其最新AI模型思维过程的难度

AI summary

OpenAI显著加强了对GPT-6.2 Astra和GPT-6.2 Sol内部推理信息被提取的防护。在自适应红队测试中,提取受保护推理的成功率从54%降至0.2%。该公司每周还因协同蒸馏活动暂停数千至数万个账户。

Translation(model translation, not the source's own text)

OpenAI 大幅提高攻击者提取其最新 AI 模型思维过程的难度

OpenAI 大幅收紧了对从 GPT-6.2 Astra 和 GPT-6.2 Sol 中提取内部推理的防护措施。在内部自动化测试中,从先前请求中提取受保护推理的攻击,成功率从 GPT-6 Astra 上的 54.0% 降至 GPT-6.2 Astra 上的 0.2%。OpenAI 表示,针对活跃请求的攻击从 22.9% 降至 0.9%。该公司现在也将部分改进措施引入 GPT-6 Astra。

这些防御在两个层面发挥作用。对于单个请求,系统结合了针对性训练、针对消息和工具调用的输入与输出过滤器,以及阻止旧模型读取受保护推理的 API 封锁。针对协同攻击行动,OpenAI 每周封禁数千至数万个账号。

攻击类型采用原始防护措施的 GPT-6 Astra – 自适应提取 ASR(%)采用更新防护措施的 GPT-6.2 Astra – 自适应提取 ASR(%)
从先前请求中提取受保护推理54.00.2
从当前请求中提取受保护推理22.90.9

针对 GPT-6 Astra 和 GPT-6.2 Astra 的自适应黑盒红队测试中的攻击成功率(ASR),汇总自六个攻击者模型。数值越低越好。

Anthropic 也在打击系统性蒸馏攻击,同样封禁了数万个账号以遏制内部推理被盗,据报道在 90% 至 99% 的情况下取得成功。Anthropic 还呼吁行业和政策制定者采取协调应对。

THE DECODER+

没有炒作的 AI 新闻——由人工精选

  • 每篇 Plus 文章及完整档案
  • 无广告横幅
  • Frontier Radar:每年 6 次深度解析

已是订阅者?登录

Only about 784 characters could be extracted — the rest did not come through (common on sites that need scrolling or a login). Read the original for the full piece.

Published by The Decoder
This site only summarises and aggregates; copyright stays with the original author. Headlines and summaries follow the source — where they differ, the original wins.
Read the original ↗