跳到正文
arXiv · ML· Joseph Rowan, Ashish J. Khisti·· 1 天前AI 评分23

多重要性采样引导 GSI 的推测推理

Multiple Importance Sampling for Guided Speculative Inference

AI 导读

该论文研究使用多个较小 LLM 提议推理步骤、由较大基础模型与过程奖励模型验证的扩展版 Guided Speculative Inference (GSI) 算法,并引入基于多重要性采样的加权方案以聚合来自多样化提议分布的样本。

来源:arXiv · ML · arxiv.org