跳到正文
arXiv · AI· Nicol\'as Astorga, Nabeel Seedat, Mihaela van der Schaar·· 2 天前AI 评分29

OPT* 如何在扩展搜索空间中进行类优化推理

Optimization-like Reasoning in LLMs over Expanding Search Spaces

AI 导读

研究人员提出可扩展的类优化任务族 OPT*,包含可行性检查器与评估器,通过复杂度参数扩展 LLM 的搜索空间。 该框架对比了求解器引导的在线策略优化(使用 rank-based reward shaping)与无求解器时的搜索型离线 RL,并在理论层面关联了搜索预算下的信息提取效率。 在 OPT* 上的训练被证明能提升 LLM 逐步类优化推理的表现。

来源:arXiv · AI · arxiv.org