跳到正文
arXiv · ML· Darshan Fofadiya, Yang Liu, Shuying Sun, Kyumin Park, Juhana Kangaspunta·· 10 天前AI 评分26

RoutingTrie 通过元数据路由优化生成式检索

RoutingTrie: Metadata Routing for Constrained Generative Retrieval

AI 导读

RoutingTrie 在束搜索前整合元数据约束,通过共享 SID Trie 和紧凑索引(Dense Bitset/Sparse List)过滤无效候选,提升生成式检索效率。 生产环境测试显示其 Hit@100 从 67.5% 提升至 96.1%,仅增加 1.1 ms 延迟,并计划开源 ShopTrie 基准测试工具。

来源:arXiv · ML · arxiv.org