arXiv · ML· Aniruddh Pramod, James Oldfield, Adel Bibi·· 2026-10-07AI 评分31
迈向统一的 LLM 滥用监测基准
Towards a Unified Misuse Monitoring Benchmark
AI 导读
研究人员提出统一的轨迹级滥用监测基准,包含约 6,200 份对话记录,涵盖分解攻击与提示注入。 动作型监测器在两类攻击中表现优异,AUC 分别达 0.95 和 0.99;内容型监测器在注入攻击中失效(AUC 0.52),且传统指标掩盖了定位精度不足的问题。 该基准揭示了独立评估威胁的局限性,强调对滥用监测进行统一研究的必要性。
来源:arXiv · ML · arxiv.org