跳到正文
arXiv · AI· Jiacheng Liang, Yuhui Wang, Tanqiu Jiang, Ting Wang·· 2026-10-14AI 评分20

LaCache:LLM 服务中鲁棒的语义缓存方案

LaCache: Robust Semantic Caching for LLM Serving

AI 导读

LaCache 通过检查生成响应的前 $k$ 个推测解码 token,为 LLM 服务的语义缓存提供可证明的防御,防止缓存碰撞攻击。 该方案将完整性检查从查询转移到响应,利用对抗性响应难以同时满足多个竞争约束的特性,将攻击命中率降至接近零,同时保留超过 90% 的良性缓存效用。 这是首个利用对抗性响应固有约束提供可证明安全的语义缓存方法,发表于 NeurIPS 2026。

来源:arXiv · AI · arxiv.org