跳到正文
arXiv · ML· Yuxia Sun, Jiahuang Wang, Haoting Liu, Zhiwei Huang, Tingrui Pei, Saiqin Long·· 10 天前AI 评分34

多阶段 LLM 级联的组成式共形风险控制框架 CompCRC

Compositional Conformal Risk Control for Multi-Stage LLM Cascades

AI 导读

研究提出 CompCRC 框架,用于控制多阶段 LLM 级联的接受错误风险。 在 $\alpha=0.45$ 预算下,该框架使接受错误风险降低 1.33-2.00 个百分点,推理成本降低 30.37%。 通过逐阶段统计识别未通过本地校验的阶段,提供系统级风险控制的诊断信息。

来源:arXiv · ML · arxiv.org