跳到正文
arXiv · ML· Haowen Bai, Rui Gong$, Meichen Liu, Ming-Xuan Weng, Bihan Wen, Kim-Hui Yap·· 9 小时前AI 评分21

MM-LeJEPA:用于多模态联合嵌入预测架构的相关高斯正则化方法

MM-LeJEPA: Correlated Gaussian Regularization for Multimodal Joint-Embedding Predictive Architectures

AI 导读

MM-LeJEPA 提出通过扩展 LeJEPA 假设,利用相关高斯目标优化多模态联合嵌入预测架构。 该方法推导了相关高斯目标以最小化加权 Fisher 信息泛函,并引入单一标量超参数控制跨模态相关性。 在公共音视频分类基准上,MM-LeJEPA 的结果与代表性开源方法具有竞争力,代码将开放获取。

来源:arXiv · ML · arxiv.org