跳到正文
arXiv · ML· Amelia Kawasaki, Stefan Lee·· 29 天前AI 评分32

基于注意力的间接提示注入检测:AttnDA 在 AgentDojo 基准中的评估

Attention-based Classification for Indirect Prompt Injection

AI 导读

研究首次评估了 Attention Tracker 在 AgentDojo 基准中的表现,发现其数据集无关性主张失效,在大多数模型族中检测接近随机水平。 该研究提出 AttnDA,用 Fisher Linear Discriminant Analysis 分类器替代标量阈值,跨四个基准测试中提升了检测性能,但向 AgentDojo 的迁移依然困难。

来源:arXiv · ML · arxiv.org