跳到正文
arXiv · ML· Junhan Sun, Yigui Feng, Mingzhe Liu, Haoyan Xu, Lei Ye, Ziqi Han, Hanru Bai, Yanzhao Zhang, Hao Zhao, Guofeng Zhang·· 3 天前AI 评分29

SADL: 解决表示坍塌的供需几何方法

SADL: On the Demand-Supply Geometry of Representation Collapse

AI 导读

提出SADL方法解决JEPAs中的表示坍塌问题,无需额外参数或架构改动。 通过约束编码器以匹配正则化器需求,SADL将坍塌率从50%降至0%。 在控制与图像分类任务中提升学习速度与稳定性。

来源:arXiv · ML · arxiv.org