跳到正文
arXiv · AI· Qiuyu Kong, Zanxi Ruan, Marco Cristani, Yiming Wang·· 4 小时前AI 评分20

RoSA 缓解显著性坍缩以增强长文本图文对齐

Mitigating Saliency Collapse: Robust Saliency-Aware Long-Text Image-Text Alignment

AI 导读

论文提出 RoSA 显著性感知微调框架,通过将图文对分解为显著与上下文视图,解决模型过度依赖显著视觉特征导致的检索性能下降问题。该框架结合物体级视觉显著性估计与基于 LLM 的文本分解策略,通过辅助目标对齐不同视图特征。RoSA 显著提升了长文本检索性能并展现了对显著性坍缩的强鲁棒性,其辅助目标模块具有即插即用特性,可统一提升现有微调方法效果。

来源:arXiv · AI · arxiv.org