arXiv · ML· Fengwei Tian, Ravi Tandon·· 2026-10-05AI 评分28
意图隐藏越狱:组合攻击的信息论框架
Intent-Hiding Jailbreaks: An Information-Theoretic Framework for Compositional Attacks
AI 导读
该研究建立了组合意图隐藏越狱的信息论框架,提出先验-后验匹配机制以隐藏有害意图。 研究证明在查询独立设置下,精确先验-后验匹配是计算困难的,并推导了分数权重的最优注水解。 在查询依赖设置中,评估发现增大捆绑包规模会降低多个开源模型对目标行为的保留率。
来源:arXiv · ML · arxiv.org