arXiv · ML· Haomiao Qiu, Yining Tang, Zijia Song, Ruizi Han, Ziyue Qiao, Miao Zhang·· 2026-10-14AI 评分32
CacheLink 实现零预填充跨模型上下文交接
CacheLink: Functional KV Transport for Zero-Prefill Cross-Model Context Handoff
AI 导读
CacheLink 通过直接学习接收端行为来耦合 K/V 校正,解决跨模型切换时需重新预填充的问题。 在四个独立训练的发送端-接收端模型对及七个评估面板中,CacheLink 的平均性能优于现有方法。 在 32K 上下文长度下,该方法将交接延迟降低最高达 7.27 倍,且 K/V 均方误差变化小于 0.4%。
来源:arXiv · ML · arxiv.org