arXiv · NLP· Yuanwei Wu, Lingdong Huang, Yunlong Mao, Kanye Ye Wang, Jingyu Hua, Sheng Zhong·· 8 小时前AI 评分37
ECHO：用响应有害性替代合规代理进行优化越狱攻击
ECHO: Replacing the Compliance Proxy with Response Harmfulness in Optimization-Based Jailbreak Attack
AI 导读
ECHO提出在优化越狱攻击中用基于实际有害能力的响应级连续有害性分数替代传统的token级合规代理。该方法结合1.7B规模的HarmSig回归器与全局top-m记忆关键词锚定束搜索，在严格黑盒威胁模型下运行。在AdvBench五个开源模型上，ECHO达到0.898的StrongREJECT均分和89.23%的HarmBench成功率，代码已公开。
来源：arXiv · NLP · arxiv.org