arXiv · ML· Nazmus Sakib Ahmed·· 23 小时前AI 评分35
研究质疑 LLM 权重编程是否具备真实推理能力：以 Claude Opus 5.5 为例
Can an LLM Actually Reason and Program about Neural Network's Weights or is it just memorization on steroids? Exploring "Weight-Space Programming"
AI 导读
研究测试 Claude Opus 5.5 处理约 125,000 参数卷积网络的权重，发现其解读依赖局部算术与记忆而非权重流追踪。 模型在识别 CIFAR-10 等熟悉数据集时表现准确，但面对快食、SAT-6 等非常见数据时出现误判，表明其依赖先验知识。 该结果为零样本权重阅读提供了审计协议，澄清了大语言模型在权重空间编程中的实际能力边界。
来源：arXiv · ML · arxiv.org