跳到正文
arXiv · AI· Zhiyang Xia, Yuming Shang, Xi Zhang·· 14 天前AI 评分37

LLM 主动对话系统中的交互式后门攻击

Interactive Backdoor Attacks in LLM-Based Proactive Dialogue Systems

AI 导读

提出针对 LLM 主动对话系统的交互式后门攻击框架,通过训练数据投毒植入触发器条件化指导策略偏差。 在心理咨询场景下对两个 LLM 骨干和两个对话数据集进行实验,Direct、Constrained 和 Unconstrained 三种攻击均有效达成目标且保留正常效用。测试的训练数据过滤器保留几乎所有投毒对话,三种后置基线仍留有大量残留攻击成功率。

来源:arXiv · AI · arxiv.org