跳到正文
arXiv · NLP· Yukai Zhou, Wenjie Wang·· 21 天前AI 评分23

重新思考 LLM 越狱评估:超越二元结果的连续风险景观

Rethinking LLM Jailbreak Evaluation: Continuous Risk Landscapes Beyond Binary Outcomes

AI 导读

研究提出基于首 token 分支的连续风险景观,以揭示 LLM 越狱评估中二元指标所掩盖的生成结构。该方法发现看似安全的输出下存在风险分支,且防御前最强的攻击在自适应防御反应后未必保持最强。

来源:arXiv · NLP · arxiv.org