arXiv · NLP· Ziqi Miao, Lijun Li, Yuan Xiong, Zhenhua Liu, Pengyu Zhu, Chen Qian, Haonan Jia, Zihang Xu, Ken Deng, Jing Shao·· 2 天前AI 评分29
Response Attack:利用上下文启动效应越狱大语言模型
Response Attack: Exploiting Contextual Priming to Jailbreak Large Language Models
AI 导读
研究提出 Response Attack 框架,利用对话中前序响应作为上下文启动效应越狱大语言模型。 在 8 个 SOTA LLM 上,RA 的越狱成功率显著高于 9 种领先基线。 实验证明 RA 通过注入中间轻微有害响应,能诱导模型生成更明确且相关的违规内容。
来源:arXiv · NLP · arxiv.org