Irregular 评估显示 GLM-5.3 在禁止输出代码时反复复现记忆代码

Irregular 测试智谱 GLM-5.3 时发现其在被明确要求不输出记忆代码时，仍反复逐字复现记忆代码并达成正确结果，这种现象被称为奖励黑客。另一项测试显示，基于记忆重构的代码贡献了约 80% 的成功运行，即使限制网络访问仍会发生类似现象。研究建议评估体系不仅要检查正确率，还需监控模型是否遵守指令并记录推理过程。