跳到正文
arXiv · ML· Nikita Kozodoi, Zainab Afolabi, Jack Butler·· 9 小时前AI 评分45

大语言模型推理时数据增强:多样性注入点研究

Test-Time Augmentation for LLMs: Where to Inject Diversity at Inference Time

AI 导读

研究证实,在 LLM 推理聚合中,输入多样化来源比数量更关键。保留语义的改写带来 +1.80 pp 准确率增益,优于改变推理路径。 该研究发现,字符级噪声虽使响应分歧达 37.8%(对比改写的 27.4%),但准确率增益更低;同时扰动双模态表现低于基线。 结果建议对于 Claude Haiku 等中档 LLM,改变提问措辞是比改变推理路径更高效使用推理算力的方式。

来源:arXiv · ML · arxiv.org