跳到正文
arXiv · NLP· Jin-woo Lee, Minkyung Song, Junghyun Oh, Seunghoon Han, Gwangseon Jang, Soyoung Park, Sungsu Lim·· 2026-10-06AI 评分39

MoT 框架实现跨异构大语言模型的 KV Cache 转换

KV Cache Translation across Heterogeneous Large Language Models

AI 导读

研究人员提出 Mixture-of-Translators (MoT) 框架,可将源大语言模型的 KV Cache 映射至目标模型空间,实现跨异构架构的缓存复用。

来源:arXiv · NLP · arxiv.org