跳到正文
arXiv · ML· Abhinav Sudhakar Dubey (University of California Santa Cruz), Scott Sirri (University of California Santa Cruz), Vaggos Chatziafratis (University of California Santa Cruz), C. Seshadhri (University of California Santa Cruz)·· 2026-10-07AI 评分38

通过随机嵌入扰动越狱开源 LLM 的安全漏洞研究

Jailbreaking Open-Weight LLMs via Random Embedding Perturbations

AI 导读

提出一种名为 PEV 的越狱技术,在 6 个开源 LLM 的 JailbreakBench 数据集上生成不安全响应。 该方法在提示词嵌入向量中独立添加高斯噪声,无需梯度计算,首次成功攻击的平均计算成本比先前方法低一个数量级。 研究表明嵌入向量扰动既是重大安全风险,也可用于探索模型动态行为。

来源:arXiv · ML · arxiv.org