arXiv · AI· Tushar Nayan, Pratik Poudel, Qian Lou, Yuede Ji, Jason Liu, Ruimin Sun·· 5 小时前AI 评分30
AdvGuard：检测并缓解基于查询的系统提示词泄露攻击
Detecting and Mitigating Query-Based System Prompt Leakage Attacks
AI 导读
AdvGuard 提出模型无关框架，检测并缓解 LLM 系统提示词泄露。 框架利用有界语义交互图捕捉跨查询关系，混合查询评测中召回率提升最高 36%，假阳性率不超过 3.4%。 在对抗循环中，系统将精确匹配泄露限制在 0.00-0.01，子串匹配在 0.01-0.09。
来源：arXiv · AI · arxiv.org