arXiv · ML· Achyuthan Sivasankar·· 2026-10-15AI 评分25
深度计算在潜空间世界模型组合中是否保留,路由器能否利用?自适应计算研究
Does Depth Survive Composition, and Can a Router Use It? Adaptive Compute in Latent World Models
AI 导读
针对9个DeepMind Control任务,12块早期退出潜空间预测器测试发现,深度假设在3个任务中失效,浅层出口反而更准确。 事后最优路由比固定深度混合降低10-37%误差,但训练路由均未超越固定调度,且反转现象依赖组合潜空间监督。 这些结果随编码器、骨干网络和训练数据变化,修正了此前关于路由有效性的多项主张。
来源:arXiv · ML · arxiv.org