arXiv · NLP· Ali Al-Lawati, Elsayed Eshra, Dongwon Lee, Suhang Wang·· 4 小时前AI 评分26
扩散语言模型用于感知困惑度的黑盒攻击
Diffusion Language Models for Perplexity-Aware Black-Box Attacks
AI 导读
该研究提出将扩散语言模型（dLLM）直接耦合到连续潜在空间框架中，替代传统随机映射，从而生成更自然的攻击提示词。 在 RareTrap 采样设置中，字符级困惑度从 10^3–10^7 降至 3–5；在 ThinkTrap 优化搜索设置中，困惑度从 20–28 降至 4.3–5.4。 不同映射下的模型风险评估结果差异可达一个数量级，表明 dLLM 能提供更基于自然语言的风险估计。
来源：arXiv · NLP · arxiv.org