跳到正文
arXiv · AI· Chaoyuan Hao, Wentao Yue, Yanyan Wu, Boyuan Gao, Tianyou Lai, Maolin Wang, Yongxin Ni, Hanwen Du, Youhua Li·· 10 天前AI 评分29

大语言模型递归测试时扩展的深度组合配置

Depth as a Candidate Source: Portfolio Allocation for Recurrent Test-Time Scaling in Large Language Models

AI 导读

针对 LLM 递归推理中单一深度视角的局限,提出深度组合配置(DPA)方法。 DPA 将递归测试时扩展重构为跨深度特定候选源的资金配置,支持固定组合及反馈引导的序贯配置。实验在 GSM8K、SVAMP、MultiArith 和 MBPP 上表明,混合深度组合在匹配候选数量和名义成本下扩展了 oracle 覆盖范围,反馈引导配置通常能匹配或改进均匀配置,并能在高预算设置下减少计算。

来源:arXiv · AI · arxiv.org