arXiv · AI· Tianjian Li, Chuanyang Jin, Seungone Kim, Tong Chen, John Hoffman, Yoram Bachrach amd Pedro Rodriguez, Ping Yu, Eryk Helenowski, Swarnadeep Saha, Jack Lanchantin, Weizhe Yuan, Ilia Kulikov, Jason Weston·· 8 小时前AI 评分38
Autoresearch Agent 与人类协作对齐：HackBench 基准与 RL 训练方法
Aligning Autoresearch: Co-Improvement between Agents and Humans
AI 导读
研究发现人类在 Autoresearch Agent 的理念生成阶段仍起关键作用，但当前 Agent 缺乏对齐能力，无法有效定位 hack 问题。 研究提出 HackBench 基准，并采用人类模拟器作为代理进行强化学习（RL）训练，同时利用对齐人类专家的评分标准改进文本生成。 这些方法为构建更强大且对齐的协作研究 Agent 提供了可行路径。
来源：arXiv · AI · arxiv.org