跳到正文
OpenAI·· 11 小时前精选AI 评分74

OpenAI 发布对抗性蒸馏防御研究成果

Combatting adversarial distillation

AI 导读

OpenAI 发布报告,介绍其检测与破坏对抗性蒸馏的方法。内部自适应评估显示,GPT‑6.2 Astra 更新后的平均攻击成功率从 54.0% 降至 0.2%。该防御体系结合模型训练、分类器及 API 级控制,并提及对 DeepSeek 和 Moonshot AI 相关活动的调查。

推荐理由

文章展示了通过强化防护措施将推理窃取成功率从54.0%降至0.2%的实测数据,并解释了相关防御在国家安全层面的应用。

来源:OpenAI · openai.com