跳到正文
arXiv · NLP· Ziqi Miao, Lijun Li, Yuan Xiong, Zhenhua Liu, Pengyu Zhu, Chen Qian, Haonan Jia, Zihang Xu, Ken Deng, Jing Shao·· 2 天前AI 评分29

Response Attack:利用上下文启动效应越狱大语言模型

Response Attack: Exploiting Contextual Priming to Jailbreak Large Language Models

AI 导读

研究提出 Response Attack 框架,利用对话中前序响应作为上下文启动效应越狱大语言模型。 在 8 个 SOTA LLM 上,RA 的越狱成功率显著高于 9 种领先基线。 实验证明 RA 通过注入中间轻微有害响应,能诱导模型生成更明确且相关的违规内容。

来源:arXiv · NLP · arxiv.org