跳到正文
arXiv · ML· Snigdha Chandan Khilar·· 2026-10-12AI 评分38

基于查询监控检测分布式模型提取的局限性

The Limits of Query Monitoring against Distributed Model Extraction

AI 导读

研究显示仅靠查询无法区分普通用户与恶意协同者,且 2.5% 以下协同者比例下无可部署检测器。 使用 100 万条真实对话开发,经 17 周冻结评估,特定变体在 0.50-0.96 的周中捕获含自然文本填充的恶意活动。 成功规避检测的模型提取活动最多保留 42% 可检测模型的能力。

来源:arXiv · ML · arxiv.org