arXiv · AI· Ge Shi, Jun Yin, Donglin Xie, Fangyi Liu, Yucan Li, Menglin Liu·· 7 小时前AI 评分36
JailbreakOPT:基于宏观动作的迭代越狱提示词优化
JailbreakOPT: Iterative Jailbreak Prompt Optimization with Macro-Action
AI 导读
JailbreakOPT 提出一种维护可复用提示词转换动作库的方法,将动作组合为宏观动作进行集内搜索,生成独立攻击提示词。 该方法利用上下文 Thompson 采样和先前搜索路径结果学习动作选择策略,以复用跨剧集经验。 实验表明,JailbreakOPT 在多个 LLM 和基准上提升了攻击成功率(ASR),优于单动作和迭代基线方法。
来源:arXiv · AI · arxiv.org