跳到正文
arXiv · AI· Haoyu Li, Srikanth Kandula, Maria Angels de Luis Balaguer, Aditya Akella, Venkat Arun·· 7 小时前AI 评分29

Wonder系统:LLM辅助数据库推测性查询

Speculative Ad-hoc Querying

AI 导读

论文提出Wonder系统,利用小型辅助LLM在主要LLM推理期间推测性预加载数据库。 通过预测查询形状编译、预热缓存及预计算超集结果,缩短SQL执行等待。 在代理工作流评估中,SQL执行时间最多降低31.8%,总推理与执行时间最多降低22.6%,带来生产力提升。

来源:arXiv · AI · arxiv.org