arXiv · ML· Yuhe Hu·· 2026-10-07AI 评分20
不同提示与评测设计下,量化对 Llama-3.1-8B-Instruct 和 Qwen2.5-7B-Instruct 工具故障恢复性能的影响
Quantization Effects on Tool-Failure Recovery Vary Across Prompts and Evaluation Designs
AI 导读
8-bit 与 4-bit 量化的 Llama-3.1-8B-Instruct 和 Qwen2.5-7B-Instruct 在 20 个确定性工具任务及 5 个提示词下的故障恢复差异方向取决于具体提示、任务筛选和评分策略。
来源:arXiv · ML · arxiv.org