小模型语义聚类投票效果研究

2026年11月3日，arXiv发布研究显示，在小规模模型中，语义聚类投票对数学问题有显著增益，但对开放式文本生成提升有限。在250个提示词的基准测试中，Qwen2.5-3B等模型家族的数学准确率提升10至29分，而开放式文本评分至多仅增加0.30分。绝大多数开放生成样本落入单一语义簇，增加解码温度未能恢复有效多样性，且导致质量净损失。

AI 根据报道生成 · 52 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。