arXiv · AI· Shilong Pan, Zhiliang Tian, Weiguo Chen, Zihan Chen, DongSheng Li·· 10 天前AI 评分26
SafeCache 提出一种安全条件感知的语义响应缓存框架,将复用决策建模为路由问题,以平衡安全性与效用。
Beyond Query Similarity: Safety-Conditioned Cache Routing for LLM Response Reuse
AI 导读
该框架分离检索与审批,通过匹配缓存响应的安全条件生成风险分数,并结合校准的路由策略选择直接复用、选择性验证或重新生成。实验表明 SafeCache 在可比缓存效用下实现了更优的安全-效用权衡。
来源:arXiv · AI · arxiv.org