跳到正文
arXiv · ML· Yuhe Hu·· 2026-10-07AI 评分20

不同提示与评测设计下,量化对 Llama-3.1-8B-Instruct 和 Qwen2.5-7B-Instruct 工具故障恢复性能的影响

Quantization Effects on Tool-Failure Recovery Vary Across Prompts and Evaluation Designs

AI 导读

8-bit 与 4-bit 量化的 Llama-3.1-8B-Instruct 和 Qwen2.5-7B-Instruct 在 20 个确定性工具任务及 5 个提示词下的故障恢复差异方向取决于具体提示、任务筛选和评分策略。

来源:arXiv · ML · arxiv.org