跳到正文
arXiv · AI· Mo Shahdloo, Faegheh Sardari, Mathew Salvaris·· 5 小时前AI 评分23

Latent-Lens:通过隐空间通信增强小型语言模型的视觉感知能力

Latent-Lens: Visual Perception in Small Language Models Through Latent Communication

AI 导读

轻量级编解码器 Latent-Lens 冻结 VLM 与 SLM,通过隐空间直接通信解决文本信息丢失瓶颈,仅训练约 1.6M 参数(占联合模型 0.2%)。 在 CLEVR 和 GQA 视觉问答中分别取得 81.0% 和 65.4%,较同等 LoRA 预算的文本通信基线提升 30.2-69.8 个百分点。 该论文发表于 NeurIPS 2026,验证了跨架构与词表的通用性。

来源:arXiv · AI · arxiv.org