arXiv · ML· Kavinda Kehelella, Sanghamitra Dutta·· 2026-10-12AI 评分33
COFFEQA: 用于 LLM 问答的反事实引导少样本蒸馏
COFFEQA: Counterfactual-Guided Few-Shot Distillation for LLM Question Answering
AI 导读
COFFEQA 提出反事实引导的少样本蒸馏策略,通过 CFD 指标验证反事实,在生成式问答中优于纯事实基线。 实验覆盖 5 个域内与 3 个域外 QA 基准,使用 T5 和 Qwen2.5 模型族。 在 TriviaQA 上,T5 设置 32 个少样本对中,平均 EM 提升 8.77 分,平均 F1 提升 9.98 分。
来源:arXiv · ML · arxiv.org