跳到正文
arXiv · AI· Jason Liang, Dylan Waldner, Risto Miikkulainen·· 2 天前AI 评分35

自我改进编码智能体中价值观对其构建产物的影响

Values Shape What Self-Improving Coding Agents Build

AI 导读

研究证实,在自我改进编码智能体的指令文件中加入简短价值观陈述,不仅影响其任务性能,还改变其构建的算法特征。评估显示,开放性价值观提升了保留数据上的表现,而保守价值观导致分数低于无价值观基线。允许智能体自行修订价值观会缩小不同价值观间的差异,且从AI文献提炼的价值观未显示出优于无价值观的效果。这表明精心设计的人类价值观能实质影响智能体的输出。

来源:arXiv · AI · arxiv.org