arXiv · ML· Zhiwei Lin, Jiahao Liu, Yan Liu, Chengpeng Wang·· 2026-10-14AI 评分25
VReparo 缓解跨模型 KV Cache 复用的安全性不兼容问题
To Cache or Not to Cache: Understanding and Mitigating Safety Incompatibility in Cross-Model KV Cache Reuse
AI 导读
跨模型 KV Cache 复用导致安全性不兼容,value reuse 比 key reuse 引发更大偏差。 VReparo 通过离线学习对齐映射,将 HarmBench ASR 降至 39.21%,StrongREJECT 分数降至 0.2163,且保留 85.62% 的 TTFT 提升。 解决了复用加速与安全对齐的冲突。
来源:arXiv · ML · arxiv.org