arXiv · AI· Juanyang Xu, Zheng Wang, Xingyu Zhao, Siddartha Khastgir, Andi Zhang·· 2026-10-08AI 评分25
OPUR:一种用于越狱LLM智能体的概率化越狱方法
From Expected Harmfulness to Likelihood: A Probabilistic Reformulation of Jailbreaking LLM Agents
AI 导读
研究确立了LLM智能体越狱中期望危害最大化与目标输出似然优化的等价关系,即期望危害对数梯度等于危害加权分布下的对数似然期望输入梯度。 基于此恒等式,论文提出采样分布OPUR,通过生成高危害目标输出并指导基于似然的输入优化,实现智能体越狱。 实验验证了该方法在越狱LLM智能体中的有效性。
来源:arXiv · AI · arxiv.org