跳到正文
OpenAI (X)· OpenAI·· 2 小时前AI 评分51

OpenAI 发布关于对抗模型蒸馏防御的研究

Distillation can reproduce powerful AI capabilities without the safeguards built around them.

AI 导读

OpenAI 分享了一项新研究,探讨如何防范模型的对抗性蒸馏。该研究揭示了强大 AI 能力如何在缺乏原有安全护栏的情况下被复现,并介绍了检测及干扰协同蒸馏攻击的技术手段,旨在提升行业安全防御水平。

来源:OpenAI (X) · x.com