arXiv · ML· Amelia Kawasaki, Stefan Lee·· 29 天前AI 评分32
基于注意力的间接提示注入检测:AttnDA 在 AgentDojo 基准中的评估
Attention-based Classification for Indirect Prompt Injection
AI 导读
研究首次评估了 Attention Tracker 在 AgentDojo 基准中的表现,发现其数据集无关性主张失效,在大多数模型族中检测接近随机水平。 该研究提出 AttnDA,用 Fisher Linear Discriminant Analysis 分类器替代标量阈值,跨四个基准测试中提升了检测性能,但向 AgentDojo 的迁移依然困难。
来源:arXiv · ML · arxiv.org