热点事件持续更新

CLIP微调零样本遗忘机制与表征漂移研究

1 篇报道1 个报道来源21 小时前更新

先了解这件事

AI 综述

2026年11月3日，arXiv发布一项关于CLIP模型微调的研究。该研究发现CLIP微调中的零样本遗忘现象可通过未标记目标图像进行预测。研究发现，注意力熵在固定配置下与遗忘程度呈强相关（平均|ρ|=0.860），但其相关性符号依赖于具体数据集与微调方法。同时指出CKA指标在跨配置比较中排序效果更优（ρ=0.960），表明表征漂移能更好预测迁移性能下降。

AI 根据报道生成 · 57 分钟前更新

报道时间线

沿着报道，了解事件的不同侧面。

11月3日

13:00
arXiv · ML
诊断 CLIP 微调中的零样本遗忘：注意力漂移表征适应，表征漂移预测迁移性能下降
研究发现 CLIP 微调中的零样本遗忘可通过未标记目标图像预测。注意力熵在固定配置内与遗忘强相关（平均 |ρ|=0.860），但符号依赖数据集与方法；CKA 在跨配置比较中排序效果更优（ρ=0.960）。

本事件热度走势

还没有足够的连续观测数据，暂不绘制趋势。