ACCT：实现跨大语言模型的非对称上下文转移

论文提出ACCT方法，实现不同规模模型间的KV cache转移，避免重复计算。 该算法包含定位、分配、编译三个轻量组件，支持在75%的KV cache压缩率下保持或提升推理性能。 在约19K tokens上下文长度下，上下文预处理速度提升6.5-21.2倍，实现跨模型上下文复用。