arXiv · ML· Snigdha Chandan Khilar·· 2026-10-12AI 评分38
基于查询监控检测分布式模型提取的局限性
The Limits of Query Monitoring against Distributed Model Extraction
AI 导读
研究显示仅靠查询无法区分普通用户与恶意协同者,且 2.5% 以下协同者比例下无可部署检测器。 使用 100 万条真实对话开发,经 17 周冻结评估,特定变体在 0.50-0.96 的周中捕获含自然文本填充的恶意活动。 成功规避检测的模型提取活动最多保留 42% 可检测模型的能力。
来源:arXiv · ML · arxiv.org