arXiv · ML· Buzhao Liu, Xinhang Ma, Yevgeniy Vorobeychik·· 5 小时前AI 评分22
鲁棒上下文感知恶意指令检测方法：基于上下文感知的LLM间接提示注入防御
Robust Context-Aware Detection of Malicious Instructions in Text
AI 导读
该研究提出一种上下文感知、查询感知的恶意句子分类方法，通过两种对抗训练——特征空间鲁棒学习与基于模拟 LLM 释义的对抗训练——显著增强了 LLM 代理系统对间接提示注入（IPI）及自适应释义攻击的鲁棒性。在多项 IPI 基准测试中，该方法在静态与自适应释义攻击场景下均优于当前最先进（SOTA）的防御基线，同时保持高实用性，代码已公开。
来源：arXiv · ML · arxiv.org