跳到正文
arXiv · AI· Maria Victoria Carro, Denise Alejandra Mester, Facundo Nieto, Oscar Agustin Stanchi, Guido Ernesto Bergman, Giovanni Franco Gabriel Marrafini, Trinidad Borrell, Guido Freire, Joaquin Salvador Machulsky, Mario Alejandro Leiva, Ana Lopez, Nicolas Spinelli, Luca Nicolas Forziati Gangi, Eitan Sprejer, Federico Barrera Lemarchand, Gerardo Simari, Maria Vanina Martinez·· 4 小时前AI 评分25

人类在辩论中修正判断,但较弱AI模型未获收益

Humans Correct Their Judgments Through Debate, but Weaker AI Models Do Not

AI 导读

研究发现,辩论能提升人类判断者相对于先验信念的准确率,但单一专家咨询基线无法实现此效果。 研究测试了包括加权投票在内的多种多评委协议。加权投票为人类监督者带来最高准确率,而LLM在所有设置中均未显著改善群体准确率。 该结果支持辩论作为可扩展人类监督的路径,但引发对高风险场景下完全自动化训练与控制的担忧。

来源:arXiv · AI · arxiv.org