arXiv · AI· Elias Sandmann, Sebastian Lapuschkin, Wojciech Samek·· 8 小时前AI 评分50
Leela Chess Zero 中安全先验覆盖算法行为
The Algorithm Is Not the Behavior: Learned Priors Override Look-Ahead in a Chess-Playing Neural Network
AI 导读
研究发现 Leela Chess Zero 中存在“被遗忘的谜题”，其正确解在中间层出现但被最终输出覆盖。尽管前瞻算法正常运作且可解码，但后期层向安全策略偏移，导致模型放弃激进的正确解。通过模型引导实验，研究者恢复了 71.7% 的被遗忘谜题，证明安全先验因果性地覆盖了算法计算出的正确结果。
来源：arXiv · AI · arxiv.org