arXiv · NLP· Jin-woo Lee, Minkyung Song, Junghyun Oh, Seunghoon Han, Gwangseon Jang, Soyoung Park, Sungsu Lim·· 2026-10-06AI 评分39
MoT 框架实现跨异构大语言模型的 KV Cache 转换
KV Cache Translation across Heterogeneous Large Language Models
AI 导读
研究人员提出 Mixture-of-Translators (MoT) 框架,可将源大语言模型的 KV Cache 映射至目标模型空间,实现跨异构架构的缓存复用。
来源:arXiv · NLP · arxiv.org