重新思考大语言模型剪枝：测试时缩放分析

研究表明，即使经过大量剪枝，部分大语言模型在匹配采样预算下的 pass@k 推理覆盖率仍能达到或超过原始模型，尽管其 pass@1 有所降低。 在严重剪枝下，生成多样化的思维链（CoT）轨迹的同时，重复率增加且生成可靠性下降，导致正确解法更难采样，总 token 使用量可能大幅上升。 该发现强调评估剪枝效果需同时考量模型可解决问题的范围及获取正确解法的采样成本。