跳到正文
arXiv · ML· Zhiwei Lin, Jiahao Liu, Yan Liu, Chengpeng Wang·· 2026-10-14AI 评分25

VReparo 缓解跨模型 KV Cache 复用的安全性不兼容问题

To Cache or Not to Cache: Understanding and Mitigating Safety Incompatibility in Cross-Model KV Cache Reuse

AI 导读

跨模型 KV Cache 复用导致安全性不兼容,value reuse 比 key reuse 引发更大偏差。 VReparo 通过离线学习对齐映射,将 HarmBench ASR 降至 39.21%,StrongREJECT 分数降至 0.2163,且保留 85.62% 的 TTFT 提升。 解决了复用加速与安全对齐的冲突。

来源:arXiv · ML · arxiv.org