OpenAI (X)· OpenAI·· 2 小时前AI 评分51
OpenAI 发布关于对抗模型蒸馏防御的研究
Distillation can reproduce powerful AI capabilities without the safeguards built around them.
AI 导读
OpenAI 分享了一项新研究,探讨如何防范模型的对抗性蒸馏。该研究揭示了强大 AI 能力如何在缺乏原有安全护栏的情况下被复现,并介绍了检测及干扰协同蒸馏攻击的技术手段,旨在提升行业安全防御水平。
来源:OpenAI (X) · x.com