arXiv · NLP· Hongyan Chang, Hady Elsahar, Tom Sander, Pierre Fernandez, Saeed Mahloujifar, Sylvestre-Alvise Rebuffi, Tom\'a\v{s} Sou\v{c}ek, Tuan Tran, Valeriu Lacatusu, Surya Parimi, Rashel Moritz, Vanessa Stark, Alexandre Mourachko·· 5 小时前AI 评分32
Watermark Basin:检测蒸馏 LLM 的黑盒方法
Watermark Basins: Black-Box Detection of Distilled LLMs
AI 导读
研究提出黑盒水印检测器 WM-Basin,通过参数空间的几何信号识别蒸馏模型。 在 0.1% 假阳性率下,WM-Basin 在 n-gram=1 和 3 时的检测率分别为 79% 和 45%,显著优于基线。 该方法有效抵抗量化、剪枝及强化学习后训练等修改。
来源:arXiv · NLP · arxiv.org