arXiv · ML· Rachel Freedman·· 16 小时前AI 评分33
自适应多元对齐:一种用于动态人工民主的流水线
Adaptive Pluralistic Alignment: A pipeline for dynamic artificial democracy
AI 导读
研究人员提出自适应多元对齐(APA)模块化流水线,旨在追踪演化价值观,避免固定偏好导致的价值观锁定。 该方案通过低秩奖励基分解学习紧凑个性化奖励模型,利用社会选择投票法筛选输出,并在价值观变动时重新拟合标注者权重。 方法基于模拟历史标注者实现概念验证,展示了陪审团组成和投票规则对结果的影响。
来源:arXiv · ML · arxiv.org