arXiv · ML· Qiaomu Li, Ying Xie·· 24 天前AI 评分28
System-1风格决策模型能否替代RAG中的专用重排器:一项系统评估
Can System-1-Style Decision Models Replace Dedicated Rerankers in RAG? A Systems Evaluation
AI 导读
研究表明System-1风格决策模型难以直接替代RAG中的专用重排器。在11个基准测试中,默认配置处理长候选集时失效,需限制文本长度才能恢复可靠性。 尽管调整候选文本长度可使部分配置具备竞争力,但经调优的专用重排器在速度和GPU内存占用上仍显著占优。团队应优先调优现有重排器,而非直接替换。
来源:arXiv · ML · arxiv.org