跳到正文
arXiv · AI· Daniel Halpern, Evi Micha, Ariel D. Procaccia, Benjamin Schiffer, Itai Shapira, Shirley Zhang·· 2026-10-16AI 评分25

从社会选择视角看 AI 对齐:聚合冲突反馈的故障模式与设计空间

AI Alignment From Social Choice Perspectives

AI 导读

基于人类反馈的对齐在判断冲突时,其学习目标成为模型偏好聚合的裁决结果。文章通过社会选择理论审视该聚合问题,揭示反馈聚合层的故障模式并展示处理分歧的更广泛设计空间。这项工作以显式和原则性的方式扩展了 AI 对齐中处理行为分歧的设计思路。

来源:arXiv · AI · arxiv.org