arXiv · AI· Elinor Poole-Dayan, Jillian Fisher, Jacob Andreas, Mitchell Gordon, Michiel A. Bakker·· 8 小时前AI 评分37
多元包容对齐研究的影响路线图:识别三大障碍与实施路径
A Roadmap to Impactful Pluralistic Alignment Research
AI 导读
对主要前沿实验室的审计显示,多元价值对齐(pluralistic alignment)尚未影响模型训练或评估,研究提出三步路线图以克服这一脱节。 路线图针对三大障碍展开:需测量多元 AI 的用户与社会影响,明确多元行为的具体规范,以及开发可满足生产系统要求、并报告对模型其他属性影响的评估方法。
来源:arXiv · AI · arxiv.org