arXiv · NLP· Utkarsh Bahuguna·· 4 小时前AI 评分36
少数派反直觉：自一致性投票为何拖累小型 LLM 解决 GPQA Diamond 难题
When Self-Consistency Backfires: Majority Vote Hurts the Majority of Hard Science Problems for Small LLMs
AI 导读
在小规模指令微调 LLM（Qwen2.5-7B 和 Llama-3-8B）上，对 GPQA Diamond 难题使用多数投票自一致性方法反而降低了单题准确率，受影响问题占比分别为 56.6% 和 65.7%。
来源：arXiv · NLP · arxiv.org