arXiv · NLP· Fardin Ahsan Sakib, Ziwei Zhu, Ozlem Uzuner·· 8 小时前AI 评分32
医疗多智能体系统提示词注入防御：基于临床判断验证的训练-free 方法
The Model Knows Better: Defending Medical Multi-Agent Systems Against Prompt Injection
AI 导读
论文提出一种无训练防御方法，通过分离患者发现与临床判断并逐一验证，使决策仅基于受支持的判断。 该方法在所有基准上优于基线，将MedQA攻击成功率降至4-7%，且保持无攻击病例准确率；对医疗模型及适应性攻击依然有效。
来源：arXiv · NLP · arxiv.org