跳到正文
arXiv · AI· Juanyang Xu, Zheng Wang, Xingyu Zhao, Siddartha Khastgir, Andi Zhang·· 2026-10-08AI 评分25

OPUR:一种用于越狱LLM智能体的概率化越狱方法

From Expected Harmfulness to Likelihood: A Probabilistic Reformulation of Jailbreaking LLM Agents

AI 导读

研究确立了LLM智能体越狱中期望危害最大化与目标输出似然优化的等价关系,即期望危害对数梯度等于危害加权分布下的对数似然期望输入梯度。 基于此恒等式,论文提出采样分布OPUR,通过生成高危害目标输出并指导基于似然的输入优化,实现智能体越狱。 实验验证了该方法在越狱LLM智能体中的有效性。

来源:arXiv · AI · arxiv.org