跳到正文
arXiv · ML· Anant Mehta, Xingyu Chen, Xiyuan Wei, Tianbao Yang·· 8 小时前AI 评分45

TuneCLIP:开源权重 CLIP 的自监督微调优化框架

Tune-Up Open-Weight CLIP: Optimization Framework for Self-Supervised Fine-tuning of CLIP

AI 导读

论文提出自监督微调框架 TuneCLIP,显著提升开源权重 CLIP 模型性能,避免标准微调导致的效果退化。 包含恢复优化统计的预热阶段与对比损失优化,在 SigLIP (ViT-B/16) 上 ImageNet 提升 2.5%,DataComp 提升 1.2%。 为高效后训练适配设定了新的强基线,代码已开源,该研究获 NeurIPS 2026 spotlight。

来源:arXiv · ML · arxiv.org