arXiv · ML· Dongsung Huh, Lior Horesh, Halyun Jeong·· 2 天前AI 评分28
功能压缩作为奥卡姆剃刀:基于敏感度最小化的代数复杂性分析
Functional Compression as Occam's Razor: Algebraic Complexity from Sensitivity Minimization
AI 导读
该研究通过最小化参数敏感度,揭示了连续学习目标在代数补全任务中对功能压缩(共享代数组成)的偏好。 分析表明,全局最优解强制隐表征实现几何对齐和单位性,且在抵消操作中迫使隐表征成为单射同态。 这一结论解决了 Huh (2025) 提出的核心猜想,证实了模型在敏感度地板处会实施目标代数结构。
来源:arXiv · ML · arxiv.org