arXiv · AI· Ying Zhang, Ruoqi Guo, Yi Liu, Gelei Deng, Yuekang Li, Yepang Liu, Leo Zhang·· 24 天前AI 评分40
CACHELINT:检测 LLM 智能体中提示词缓存误集成的工具
Silent and Costly: Characterizing and Detecting Prompt-Caching Mis-Integration in LLM Agents
AI 导读
针对 LLM 智能体中提示词缓存误集成常静默失败的问题,研究团队设计工具 CACHELINT,在 571 个项目中识别出 32 处误集成,精度达 0.86。 CACHELINT 结合 CodeQL 定位调用点,并基于 LLM 检查前提条件,在 10 个开源系统 120 个样本上实现 0.78 召回率。
来源:arXiv · AI · arxiv.org