arXiv · NLP· Tianxiang Chen, Jingyuan Zhou, Weiming Yang, Kaidi Yang·· 13 小时前AI 评分23
Rethinking Fixed-Horizon Latent Reasoning: 动态调整潜在推理水平以提升准确率并减少计算
Rethinking Fixed-Horizon Latent Reasoning
AI 导读
研究发现,将潜在 Chain-of-Thought 运行至预设全程可能降低推理性能。 该方法通过估计剩余建设性进度动态调整推理水平,无需重新训练 LLM。 在多个算术基准中,推理准确率最多提升 7.2 个百分点,潜在计算量最多减少 29.0%。
来源:arXiv · NLP · arxiv.org