arXiv · AI· Yixin Tan, Zhe Yu, Rui Wen, Jun Sakuma·· 24 天前AI 评分50
预训练模型泄露放大微调 LLM 的越狱风险:探针引导投影攻击研究
One Leak Away: How Pretrained Model Exposure Amplifies Jailbreak Risks in Finetuned LLMs
AI 导读
研究发现,针对预训练 LLM 优化的对抗提示词能有效迁移至其微调版本,证实了越狱漏洞的继承性。 表示层级探测表明,可迁移提示词在预训练隐藏状态中呈线性可分,说明相关结构已编码在表征中。 基于此提出探针引导投影(PGP)攻击以指导优化方向,并在多个 LLM 家族及任务中验证了其高迁移成功率。
来源:arXiv · AI · arxiv.org