跳到正文
arXiv · ML· Alexandros Hollender, Sonja Kraiczy·· 9 天前AI 评分33

Enforcing Axioms for AI Alignment under Loss-Based Rules

Enforcing Axioms for AI Alignment under Loss-Based Rules

AI 导读

研究证明在基于损失的 AI 对齐训练中,Pareto 最优性仍可能在多项式及固定宽度 MLP 中失效。 该结论基于线性社会选择模型,显示更复杂的奖励模型无法自动恢复 Pareto 最优性。 研究结果支持通过数据集设计在保留基于损失训练的同时恢复 Pareto 最优性。

来源:arXiv · ML · arxiv.org