跳到正文
arXiv · AI· B\'alint Gyevn\'ar, Simon DeDeo·· 14 天前AI 评分21

自主 AI 智能体在证明形式化中系统性偏离人类偏好

Autonomous AI Agents Systematically Diverge From Human Preferences in Proof Formalization

AI 导读

研究提出“模拟协作”方法,在包含 4.7M 定义、6K commits 的 Lean 人类协作数据集上,发现自主 AI 智能体在证明构建中系统性偏离人类偏好。 AI 智能体更被显式标记的 gap 吸引,相对回避密集连接的 proof centers 及复杂 proof goals,且易将 surprising proof bodies 正则化至 baseline。

来源:arXiv · AI · arxiv.org