arXiv · AI· Yixin Wu, Rachel Hong, Jamie Morgenstern, Tadayoshi Kohno·· 8 小时前AI 评分30
BenchDoor 攻击：利用基准测试激励植入后门
Adversarial Benchmarks and BenchDoor Attacks: Exploiting Benchmark Incentives for Backdoor Attacks
AI 导读
研究提出 BenchDoor 数据投毒攻击，利用基准测试评分激励植入后门。在 Qwen 和 Gemma 模型上，30 种配置均实现基准提升，2%-10% 投毒率下攻击成功率达 82.33%-100%。 该攻击在数据去污和合成数据生成后依然有效，成功率至少 90.33%。这表明基准测试及其训练资源可成为攻击载体。
来源：arXiv · AI · arxiv.org