arXiv · ML· Youssef Allouah, Mahdi Haghifam, Sanmi Koyejo, Reza Shokri·· 2026-10-09AI 评分38
蒸馏攻防博弈:自适应评估规则与高效防御方法
The Distillation Game: Adaptive Evaluations & Efficient Defenses
AI 导读
研究通过极小极大博弈构建了蒸馏攻防框架,提出结合代理学生的PoE防御,在GSM8K和MATH上显著缩小了自适应学生与被动评估的差距。 PoE仅需前向传播,比昂贵防御更廉价且保留更高质量推理轨迹;强蒸馏难以彻底阻止,抗蒸馏进展需基于自适应学生评判。
来源:arXiv · ML · arxiv.org