arXiv · ML· Wang Ru·· 29 天前AI 评分27
潜在几何视角下高斯先验在强化学习微调中失效的机制研究
When Do Gaussian Priors Fail? A Latent Geometry Investigation of RL Fine-Tuning
AI 导读
高斯先验在强化学习微调中因结构性限制导致坍缩,多模态数据下 ELBO 最优解压缩模式造成重叠。 在真实丙氨酸二肽玻尔兹曼分布中,高斯先验 VAE 坍缩阈值 beta_c 为 0.224,而高斯混合先验仅为 0.00316,差距达 71 倍。 通过几何中介量 d_min/(2 sigma_0) 验证因果链,证明非高斯先验在覆盖敏感任务中是必要修正。
来源:arXiv · ML · arxiv.org