跳到正文
11月11日周三
  1. arXiv · ML31

    ADIndex 通过层自适应稀疏注意力索引和组级蒸馏技术,在保留 DeepSeek-V3.2 和 GLM-5.1 近无损任务性能的同时,实现了显著的效率提升。

    在 256K 上下文长度下,ADIndex 将预填充和解码内核速度分别提升至最高 6.22x 和 3.40x,在 128K 上下文下实现 1.54x 的端到端服务加速。 该技术有效解决了 DeepSeek Sparse Attention 索引器在长上下文推理中占用超过 50% 预填充 GPU 时间的延迟瓶颈。

11月10日周二
  1. arXiv · AI25

    AdaPath:面向生物医学知识图谱问答的查询自适应路径查找框架

    AdaPath 提出通过 Path-Bank 检索查询自适应元路径,以解决生物医学问答中查询不暴露中间推理及知识图谱连接密集导致路径易错的问题。 框架在多个生物医学 KGQA 基准上持续优于基线模型,并能有效裁剪密集邻域。研究同时发布了 BioStrat-QA 基准,并按中间推理暴露程度对多跳查询进行分层。

  2. arXiv · ML28

    CAPE 框架提出用于纵向数据的对比非短视目标成本权衡特征获取策略

    研究人员提出 CAPE 策略,通过定义基于预言机的 NOCT 目标并学习对比获取效用流形,在纵向主动特征获取中平衡预测损失与获取成本。 该方法在合成及真实医疗数据集实验中优于非参数、贪心及基于强化学习的替代方案,以更低成本实现更高准确率。 代码已公开,论文被 NeurIPS 2026 接收。

  3. arXiv · AI31

    MemR3 通过显式证据缺口追踪实现高效对话记忆检索

    提出后端无关的闭环控制器 MemR3,将对话记忆检索重构为显式有状态决策过程。 MemR3 维护证据与未解决需求的证据缺口状态,通过检索、反思和回答三个动作路由。在 LongMemEval_s 上,MemR3 超越隐式多步检索基线,长对话中仅检索 1%-5% 的全量 token。 该论文已被 NeurIPS 2026 接收,证明显式证据缺口追踪是令牌高效的对话记忆有效抽象。

  4. arXiv · AI40

    FREESON 框架实现无检索器检索增强推理

    FREESON 框架通过 CT-MCTS 算法在语料库中探索答案路径,替代传统独立检索模型,消除表示瓶颈并避免固定 top-k 检索的噪音。 该方法让大语言模型直接导航原始文本,在 9 个基准测试中平均 EM 和 F1 提升 15 点,医疗 QA 零样本表现与 MedGemma-27B 持平。 NeurIPS 2026 主赛道论文证实了其跨领域通用性与优势。

  5. arXiv · ML26

    RoutingTrie 通过元数据路由优化生成式检索

    RoutingTrie 在束搜索前整合元数据约束,通过共享 SID Trie 和紧凑索引(Dense Bitset/Sparse List)过滤无效候选,提升生成式检索效率。 生产环境测试显示其 Hit@100 从 67.5% 提升至 96.1%,仅增加 1.1 ms 延迟,并计划开源 ShopTrie 基准测试工具。

  6. arXiv · AI23

    RecoGEM: 面向生产级生成式推荐的服务系统

    RecoGEM 作为生产级生成式推荐服务系统,采用运行时与引擎解耦架构,解决 GR 在解码步骤与 LLM 服务栈间的结构性不匹配问题。 系统针对短 token 序列与大候选集优化执行引擎,支持 10 余个 GR 模型族,单实例 QPS 超 1000,P99 延迟低于 35ms,吞吐量较基线提升 2.88 倍。

  7. arXiv · ML20

    用于云边连续体资源管理的LLM持续指令调优

    提出一种持续指令调优的意图编译器,用于云边连续体资源管理,将大语言模型置于低延迟控制器之上。 实验采用2B参数模型骨干,验证了朴素顺序调优会导致灾难性遗忘,而重放存储示例能有效防止遗忘,该编译器在重述意图上的鲁棒性优于语法解析器。

  8. arXiv · AI28

    VisProve:通过类型化视觉溯源提升科学文档问答准确性

    VisProve 模型通过结合可微分空间证据读取与反馈,将科学文档问答的 Typed-F1 从 3.52 提升至 5.48。 该模型基于包含 3,941 个问题的 ReViE 数据集进行训练,采用门控范数受限残差连接条件化下一 token 预测。 实验表明,将视觉定位与支持关系建模相结合主要改善了细粒度溯源,揭示了答案生成与证据归因间的显著差距。

  9. arXiv · ML23

    Late Chunking 文档局部边界校准以优化上下文块检索

    论文提出一种校准文档局部块边界的两阶段框架,基于 InSeNT 优化上下文块检索。 该框架通过自适应判别尺度及块感知注意力机制,改善金块与相似负例间的区分度。 在 ConTEB 和 NanoBEIR 数据集上,该方法提升了上下文块检索效果,同时保持有竞争力的段落级检索质量。

  10. arXiv · AI23

    ARMOR:面向噪声鲁棒 RAG 推理的自适应课程元学习

    ARMOR 提出将 RAG 鲁棒性分解为知识边界感知、检索验证和鲁棒推理三个子任务,利用自适应课程元学习提升噪声下的推理能力。 该框架引入自适应任务调度器生成训练计划,并通过组间优势估计缓解有限输出空间导致的模式坍缩,在 2WikiMultiHopQA、MusiQue 和 HotPotQA 等三个复杂推理数据集上均显著优于基线模型。

  11. arXiv · NLP20

    边际效用、矩阵分解与 KV 缓存:一个用于主权地理挖掘推理的统一信息经济学框架

    建立联系边际效用、矩阵分解与 Transformer 语言模型 Key-Value 缓存的理论框架,在地理挖掘文档信息提取中,11.2M 参数分类器实现 90% 一级准确率。 该框架通过统一分配规则优化内存预算下的缓存管理,支持分层 TIES 模型合并与 LoRA 微调,诊断出均匀密度合并导致的退化解,需校准密度消除。

  12. arXiv · NLP25

    PersonaDrive:基于检索增强VLA的智能驾驶代理

    PersonaDrive 提出了一种从人类演示中获取驾驶风格的视觉-语言-动作(VLA)代理,在 Bench2Drive 基准上比 SimLingo 提升 4.6% 驾驶得分。 该模型基于 15 名参与者的 CARLA 演示数据训练,通过 FAISS 索引切换风格无需重训,激进而保守风格下平均速度提升 19.8%。 数据集与模型权重已在项目页面开源,研究被 WACV 2027 接收。

  13. arXiv · NLP20

    JUÁ:巴西法律文本检索基准

    研究团队发布开源基准 JUÁ,用于系统性评估巴西葡萄牙语法律文本检索,涵盖判例法、立法及监管等领域的异构集合。 评估涵盖词汇、稠密向量及 BM25 重排序管线,其中基于 JUÁ 监督信号微调的 Qwen 嵌入模型在特定子集上表现最优。

  14. arXiv · NLP30

    IntPro:基于用户历史选择性检索的上下文感知意图推断

    IntPro 提出了一种代理智能体,通过直接推断或生成候选意图解释来从用户历史中检索意图对齐记录。 该方法利用直接-检索监督微调(SFT)学习推断能力,并结合多轮 GRPO 及检索决策奖励优化意图预测与选择性检索机制。 在三种场景和三种模型骨干下的实验表明,IntPro 持续提升了上下文感知意图推断性能。

  15. arXiv · NLP25

    EMERGE:基于新兴文本知识更新知识图谱的基准

    研究者提出 EMERGE 基准,包含 23.3 万条维基百科段落及 119 万条知识图谱编辑操作,涵盖 2019 至 2025 年七个年度快照。 该数据集基于 Wikidata 构建,实验表明知识图谱访问显著提升了可执行更新效率,并支持三元组弃用操作。 数据集与代码已公开,旨在促进开发能够利用新兴文本知识实时更新知识图谱的方法。

  16. arXiv · NLP35

    CHO-Bench:上下文提示词如何影响 LLM 广告排名

    CHO-Bench 引入 119 万次成对评测,证实 LLM 广告中上下文提示词能改善广告排名。 该基准涵盖 5 个数据集,采用嵌入模型与 LLM 两种排名器,发现不同生成策略在特定配置下表现差异显著。 研究确立了离线广告侧排名优化基准,并指出模型特异性提示词选择及预算感知生成存在优化空间。

  17. arXiv · NLP30

    Lightfoot: 支持精确无模型文档删除的图检索增强生成系统

    Lightfoot 图 RAG 系统通过确定性映射实现文档删除仅需数据库操作,无需模型调用。在 MuSiQue 等数据集上,其索引成本比 HippoRAG 2 低 26-31%,且删除 10% 文档后图谱与重建索引一致。 HippoRAG 2 删除相同文档需 2,187 次模型调用,Lightfoot 则实现零模型调用删除,显著降低部署维护成本。

  18. arXiv · NLP28

    SPARCLING 生成多样化且带构造性标签的合成临床出院小结

    研究人员提出 LLM 管道 SPARCLING,通过结构化属性采样、模板生成及红队测试,生成字符级精确 PHI 标注的德国临床出院小结。 实验显示 SPARCLING 在内容多样性上优于现有公开数据集,并作为基准揭示了去标识化模型失效模式。 使用合成数据训练的去标识化模型性能优于仅依赖稀缺公开数据训练的模型。

  19. arXiv · NLP30

    用于检索增强生成 (RAG) 的两侧一致性证据集

    针对 RAG 系统仅建模支持证据的局限,提出两侧一致性证据集 (CES) 框架。该框架基于交换性假设,在支持 (support) 和反驳 (refutation) 两侧分别提供至少 1-α 的有限样本覆盖率保证,通过 Bonferroni 合并实现两侧联合覆盖率至少 1-2α。

  20. arXiv · NLP42

    HiVe-Mem:多模态智能体中水平记忆扩展与垂直证据组合的交错框架

    HiVe-Mem 多模态记忆框架通过交错执行水平记忆扩展与垂直证据组合,在多模态记忆基准上提升任务性能。 该框架利用关系图扩展语义检索种子,并通过轻量选择器独立组合每条记忆的多种证据形式,如摘要、原始图像等。 相较于最高效的竞争基线,该框架在保持性能提升的同时,将 token 消耗降低了约 90%。

  21. arXiv · NLP35

    NCode:首个基于LLM的通用AutoML搜索框架

    提出基于LLM的通用AutoML框架NCode,首次联合优化架构、超参数及数据比率,无需任务特定微调。 采用统一数值编码将设计选择转为离散序列,在图像分类、分割、说话人验证及文生图基准中达到SOTA,并在十亿参数Diffusion Transformer联合优化中取得GenEval 0.91分。

  22. arXiv · NLP38

    叙事鸿沟:LLM 能否助力跨语言导航多元叙事?

    研究提出 NarrativeBench,包含 23 种语言、460 个查询及 1,333 篇新闻,定义 6 项核心能力。 评估 14 个 LLM 发现,模型缺乏导航多元叙事能力,导致不同语言间信息获取差异显著,加剧“信息对等”缺失。 NeurIPS 2026 录用该工作,其基准为开发跨语言信息系统及提升用户信息获取自主权提供基础。