arXiv · NLP· Yining Li, Huayang Li, Lemao Liu, Taro Watanabe·· 8 小时前AI 评分44
大语言模型位置偏差的综合性研究
On the Position Bias of Large Language Models: A Comprehensive Study
AI 导读
大规模实验表明,模型规模增加和链式推理(CoT)提示词能显著缓解位置偏差。 研究覆盖十亿至万亿级参数模型,在五种语言的多项选择和文档检索任务中,发现新兴的思维模型对位置偏差近乎免疫。 这为消除该漏洞提供了一种昂贵但通用的路径。
来源:arXiv · NLP · arxiv.org