arXiv · AI· Kainan Zhou, Gangzhen Qian, Janet Sung, Zhi Jing, Rong Bao, Qianru Lao·· 8 小时前AI 评分32
SearchInject：语言模型搜索中针对间接提示注入的检索暴露控制
SearchInject: Retrieval Exposure Control for Indirect Prompt Injection in Language-Model Search
AI 导读
SearchInject 提出一种联合评分机制控制检索曝光，在 BM25 检索器上将 top-10 目标暴露率从 0.9408 降至 0.1583，相对降低 83.2%-83.7%。 该方法在 300 条 SciFact 查询上评估，冻结阈值导致 0.59%-0.65% 的误隔离率，超过校准时的 0.5% 约束；在 104 个案例中记录到上下文移除，但无法估计攻击成功率降低。
来源：arXiv · AI · arxiv.org