跳到正文
arXiv · ML· Qiaomu Li, Ying Xie·· 24 天前AI 评分28

System-1风格决策模型能否替代RAG中的专用重排器:一项系统评估

Can System-1-Style Decision Models Replace Dedicated Rerankers in RAG? A Systems Evaluation

AI 导读

研究表明System-1风格决策模型难以直接替代RAG中的专用重排器。在11个基准测试中,默认配置处理长候选集时失效,需限制文本长度才能恢复可靠性。 尽管调整候选文本长度可使部分配置具备竞争力,但经调优的专用重排器在速度和GPU内存占用上仍显著占优。团队应优先调优现有重排器,而非直接替换。

来源:arXiv · ML · arxiv.org