arXiv · ML· Alexandros Hollender, Sonja Kraiczy·· 9 天前AI 评分33
Enforcing Axioms for AI Alignment under Loss-Based Rules
Enforcing Axioms for AI Alignment under Loss-Based Rules
AI 导读
研究证明在基于损失的 AI 对齐训练中,Pareto 最优性仍可能在多项式及固定宽度 MLP 中失效。 该结论基于线性社会选择模型,显示更复杂的奖励模型无法自动恢复 Pareto 最优性。 研究结果支持通过数据集设计在保留基于损失训练的同时恢复 Pareto 最优性。
来源:arXiv · ML · arxiv.org