跳到正文
LessWrong · All Posts· Asdfer·· 2026-10-11AI 评分55

种子多样性作为假设性抗蒸馏机制

Seed diversity as a hypothetical anti-distillation mechanism

AI 导读

作者提出一种假设性抗蒸馏机制,建议服务商部署 10-20 个具有不同 RL 种子的模型,利用策略差异导致的损失景观冲突使蒸馏学生模型产生均值寻求效应,从而破坏蒸馏效果。该机制旨在应对 DeepSeek、Moonshot AI 等近期对 Claude 的蒸馏攻击,且通过高重置阈值减少对合法推理服务的影响。

来源:LessWrong · All Posts · lesswrong.com