跳到正文
arXiv · NLP· Katelyn A. Wasson, Kiwon Song, James M. Jennings III, Brittney Currie, Konstantina Sokratous, Clintin P. Stober·· 10 天前AI 评分37

大语言模型的道德价值观是否具备传递性?一项道德能力测试

Do large language models rank moral values? A transitivity test of moral competence

AI 导读

研究发现,大多数大语言模型在道德价值观权衡中的选择缺乏稳定传递性,聚合响应无法匹配单个选择集结构。 研究通过向模型呈现二元道德困境并提取首词分布概率,对比三种随机传递选择模型验证了这一假设。 文章指出,评估 AI 道德前应先确认其选择具备结构化特征,而非直接判断对齐性。

来源:arXiv · NLP · arxiv.org