arXiv · ML· Xiaohua Zhan, Kazuki Egashira, Robin Staab, Mark Vero, Martin Vechev·· 1 天前AI 评分32
All-in-One: 针对 LLM 变换的可组合攻击
All-in-One: A Composable Attack on LLM Transformations
AI 导读
研究者提出一种名为 All-in-One 的可组合攻击框架，同时针对量化、剪枝和模型合并等 LLM 部署变换。 该方法将各变换近似为权重扰动，通过在原始模型和模拟变换模型上联合训练良性与恶性损失函数实现单次攻击。 实验表明该攻击在多种模型家族和部署场景下均取得高成功率，突显了 LLM 变换带来的安全威胁。
来源：arXiv · ML · arxiv.org