arXiv · NLP· Hussein Jawad, Alexandre Landeau, Guy Fleury Iradukunda, Paul Beaumont, Th\'eodore Rezel, Sofiane Schaack, Nicolas J-B. Brunel·· 3 天前AI 评分23
用于 LLM-as-a-Judge 护栏的带风险认证的提示词优化
Risk-certified prompt optimization for LLM-as-a-judge guardrails
AI 导读
论文提出带风险认证的提示词优化框架,通过统计控制将漏检攻击率限制在用户指定水平 α 以内,最大化良性通过率。 该框架包含 CPS 与 CRISP 两种流程,利用同步上置信界进行认证,并在四个涉及提示注入等数据集上验证了其在不同风险容忍度下的效用提升。
来源:arXiv · NLP · arxiv.org