arXiv · ML· Zhe Zhang, Jing Li, Wanli Xue, Xu Cheng, Jianhua Zhang, Qinghua Hu, Shengyong Chen·· 9 小时前AI 评分25
DDSR：融合黑盒模型与视觉语言模型的自适应双教师蒸馏框架
Adaptive Dual-Teacher Distillation with Subnetwork Rectification for Bridging Semantic Gaps in Black-Box Domain Adaptation
AI 导读
提出DDSR框架，通过自适应双教师蒸馏和子网络正则化解决黑盒域适应（BBDA）中黑盒模型与视觉语言模型（ViLs）语义差距问题，多个基准测试中超越包括可访问源数据或参数的最先进方法。 该框架融合黑盒源模型与ViLs的预测生成目标域伪标签，子网络正则化通过强制输出一致性和梯度发散性缓解噪声监督过拟合，渐进优化目标预测以迭代精炼伪标签和ViL提示。
来源：arXiv · ML · arxiv.org