arXiv · ML· Darshan Fofadiya, Yang Liu, Shuying Sun, Kyumin Park, Juhana Kangaspunta·· 10 天前AI 评分26
RoutingTrie 通过元数据路由优化生成式检索
RoutingTrie: Metadata Routing for Constrained Generative Retrieval
AI 导读
RoutingTrie 在束搜索前整合元数据约束,通过共享 SID Trie 和紧凑索引(Dense Bitset/Sparse List)过滤无效候选,提升生成式检索效率。 生产环境测试显示其 Hit@100 从 67.5% 提升至 96.1%,仅增加 1.1 ms 延迟,并计划开源 ShopTrie 基准测试工具。
来源:arXiv · ML · arxiv.org