arXiv · ML· Michael Cardei, Anjun Hu, Chenrui Ma, Francesco Pinto, Chawin Sitawarin, Chulin Xie, Ferdinando Fioretto·· 2026-10-14AI 评分28
仅受签署内容约束:受限扩散智能体的安全工作流
Only What You've Signed up For: Secure Workflows with Constrained Diffusion Agents
AI 导读
提出 Policy-Constrained Diffusion Agents (CoDA) 框架,在扩散语言模型去噪过程中强制任务相关安全策略,通过投影 token 分布至合规集以防御提示注入。 评估表明 CoDA 在静态和自适应攻击下显著降低攻击成功率,保持任务效用并具备可接受的推理开销。
来源:arXiv · ML · arxiv.org