arXiv · AI· Areej Mehboob, Muhammad Ali Shafique, Muhammad Usman Qadeer, Hamza Farooq·· 8 小时前AI 评分20
量化如何改变 Qwen2.5-Coder 与 Devstral 编码智能体的行为而非仅降低准确率
Beyond Accuracy: How Quantization Affects Coding Agents
AI 导读
研究对比 Qwen2.5-Coder 与 Devstral-Small 在 4-bit AWQ/GPTQ 量化下的编码表现。 未检测到统计显著准确率损失，但 AWQ 使 Qwen-7B 单次求解从 17 降为 0，循环求解从 10 升至 25。 编码智能体的量化鲁棒性评估应关注解题轨迹、工具使用及失败模式，而非仅最终准确率。
来源：arXiv · AI · arxiv.org