跳到正文
arXiv · AI· Mintong Kang, Zhaorun Chen, Bo Li·· 24 天前AI 评分36

C-SafeGen: 基于声明流式护栏的认证安全 LLM 生成

C-SafeGen: Certified Safe LLM Generation with Claim-Based Streaming Guardrails

AI 导读

C-SafeGen 提出基于声明的流式解码(CSD)算法与统计风险保证框架,旨在实现 LLM 安全生成的认证合规。CSD 算法集成流式护栏模型监控顺序声明,并通过回溯机制修正高安全风险的声明,从理论上保证了生成分布满足安全约束。该方法推导了安全风险的高概率上界,实证评估显示其效率优于最先进方法,且风险上界在真实数据上验证有效。

来源:arXiv · AI · arxiv.org