跳到正文
arXiv · AI· Zachary Wojtowicz, Michelle Si, Finale Doshi-Velez, Ariel Procaccia·· 10 天前AI 评分28

算法影响揭示对齐隐藏的社交选择结构

Algorithmic Impact Reveals the Hidden Social Choice Structure of Alignment

AI 导读

论文证明当智能体效用可线性表达时,AI 对齐可重构为凸影响空间上的线性优化,从而应用福利经济学工具。 该方法使基于议题投票和随机独裁机制具有策略鲁棒性,并推导出最大化功利主义社会福利的对齐协议。 作者利用肾脏分配、慈善食物分配、LLM 回复和电车难题的人类偏好实证展示了福利影响。

来源:arXiv · AI · arxiv.org