arXiv发布鲁棒上下文感知恶意指令检测方法

一项针对大语言模型（LLM）安全的研究于2026年10月30日在arXiv上发表。该研究提出了一种上下文感知且查询感知的恶意句子分类方法，旨在防御间接提示注入（IPI）攻击。该方法通过引入特征空间鲁棒学习与基于模拟LLM释义的对抗训练两种机制，显著增强了LLM代理系统在静态及自适应释义攻击场景下的鲁棒性。 在多项IPI基准测试中，该方法的表现优于当前最先进（SOTA）的防御基线，且保持了高实用性。研究团队已公开相关代码。由于目前仅有单篇一手报道，尚未发现后续跟进报道或存在矛盾信息，该事件目前主要处于研究成果发布与代码开源阶段。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。