跳到正文
arXiv · ML· Michael Cardei, Anjun Hu, Chenrui Ma, Francesco Pinto, Chawin Sitawarin, Chulin Xie, Ferdinando Fioretto·· 2026-10-14AI 评分28

仅受签署内容约束:受限扩散智能体的安全工作流

Only What You've Signed up For: Secure Workflows with Constrained Diffusion Agents

AI 导读

提出 Policy-Constrained Diffusion Agents (CoDA) 框架,在扩散语言模型去噪过程中强制任务相关安全策略,通过投影 token 分布至合规集以防御提示注入。 评估表明 CoDA 在静态和自适应攻击下显著降低攻击成功率,保持任务效用并具备可接受的推理开销。

来源:arXiv · ML · arxiv.org