跳到正文
arXiv · NLP· Yifan Zhao, Qianyang Zhao, Xinyu Guan, kai wei, Yuming Deng·· 5 小时前AI 评分35

QESChunker:统一重叠与非重叠 RAG 分块的目标函数

QESChunker: A Single Objective Unifies Overlapping and Non-Overlapping Chunking for RAG

AI 导读

提出首个基于问题-证据监督的静态分块索引构建方法 QESChunker,统一了重叠与非重叠分块目标。 非重叠情形可用动态规划在多项式时间内精确求解;重叠情形为单调子模函数,贪心算法获得 $(1-1/\sqrt{e})$-近似。 在 5 个数据集上,两种变体在完全证据召回率上均优于现有方法。

来源:arXiv · NLP · arxiv.org