arXiv · ML· Allen Nie, Xavier Daull, Zhiyi Kuang, Abhinav Akkiraju, Anish Chaudhuri, Max Piasevoli, Ryan Rong, YuCheng Yuan, Prerit Choudhary, Shannon Xiao, Rasool Fakoor, Adith Swaminathan, Ching-An Cheng·· 10 天前AI 评分34
理解使用 LLM 进行迭代生成式优化的挑战
Understanding the Challenges in Iterative Generative Optimization with LLMs
AI 导读
LLM 驱动的生成式优化因“隐藏”的设计选择而脆弱,导致仅 9% 的代理使用自动化优化。 研究识别出起始工件、信用视界和批量大小是关键因素,在 MLAgentBench、Atari 和 BBEH 案例中决定优化成败。 作者提出的批处理规则经 TBLite 校准后,在 DeepSWE 上表现接近最优配置,差异小于 1%。
来源:arXiv · ML · arxiv.org