DecisionRAG:无需检索器的文档决策模型导航方法
提出无需第一阶段检索器或任务特定训练的DecisionRAG,利用决策模型在前向传播中联合评估候选分支。 该模型在MultiDoc2Dial上比8B重排序器高13.8个R@1,在Natural Questions上高17.4个Hit@1,查询耗时仅0.7-1.8秒。
提出无需第一阶段检索器或任务特定训练的DecisionRAG,利用决策模型在前向传播中联合评估候选分支。 该模型在MultiDoc2Dial上比8B重排序器高13.8个R@1,在Natural Questions上高17.4个Hit@1,查询耗时仅0.7-1.8秒。
一项基于 MIMIC-III 数据库的研究,构建了包含 4,000 名患者的弱监督队列,验证了从纵向临床叙事中推断慢性病患者心理健康风险的可行性。 研究采用分层状态空间框架,从每日临床叙事中提取心理健康表征并建模其时间演变,初步结果显示该框架提升了二元风险预测的准确性。 模型揭示了风险组与非风险组之间截然不同的风险轨迹,为监测慢性病患者在住院期间出现的抑郁或痴呆等潜在心理健康风险奠定了基础。
Evolve on Graph (EoG) 框架实现了大语言模型在无问答标注情况下的知识图谱自进化推理。 EoG 通过“图自博弈”机制,让单一模型交替担任提问者与解题者,结合符号可验证拓扑合成和边界感知图课程来生成可验证的多跳问题。 在 Freebase、Wikidata 和工业知识图谱的六个基准测试中,EoG 的表现持续优于基于提示、检索和智能体的现有方法。
CANS 是一个无需训练、能在大语言模型中控制目标行为并保持通用能力的统一框架。 该方法通过局部近似两个代理指标(目标 token 对数概率、通用输入输出分布 KL 散度)得出闭式解,生成神经元级缩放系数,实现轻量转向。
UniGFM-RAG 提出统一的端到端 GraphRAG 框架,通过可微图桥接联合优化 GFM 检索器与 LLM 生成器。 在三个多跳问答数据集和三个域外 GraphRAG 基准上持续优于基线,并引入语义引导蒸馏模块降低标注依赖。 该框架实现了检索与推理的紧密耦合,增强了 GraphRAG 的泛化能力。
MONOLOGUE 提出一种不依赖明确反驳的逻辑劫持单文档投毒框架,在三个基准、三个检索后端及四个开源生成器体制评估中实现了最强攻击效能。 该框架离线通过本地多维门控优化优化攻击载荷,构建基于历史基线的记录更正叙事以植入目标更新。
针对 RAG 系统聚合指标掩盖主题内部公平差距的问题,提出按主题独立适配重排序器方法。 使用 Bradley-Terry 目标函数,基于生成器输出构建偏好对,将 RoMQA 数据集平均绝对主题差距降低 51%。 该方法在保持准确率的同时显著优于单一重排序器基线,有效解决特定主题下的群体公平性缺陷。
研究者提出CaliMem框架,通过校准记忆机制解决数据整理策略搜索中的过度泛化问题。在生物及大语言模型后训练任务中,CaliMem优于固定基线及已发表方法,性能比全数据训练高最多19.4%。该系统支持部署时的测试时整理(TTC),代码已开源。
针对工程规范层级复杂、多模态且密集互引用的特性,提出GEMS-RAG框架以提升大语言模型的联合推理能力。该框架结合层级解析、细粒度视觉实体提取及多模态知识图谱构建,实现基于图的混合检索。在MUTCD评估中,其检索效果与问答性能优于纯文本、多模态及基于图的RAG基线。
研究者提出“界定域语义不变性”框架,利用知识图谱控制局部语义约束,以解决 LLM 回答不一致问题。 该框架在 MITRE D3FEND 本体及八个 Wikidata 领域验证,发现不一致具有结构化特征。 分层接地策略增强了单调性,显著降低模型间不一致率。
提出一种将人类专家判断蒸馏至自动化评估系统的通用方法论,旨在构建具备独立性与问责机制的高stakes评估基础设施。 在AI新闻领域验证中,应用结构化编辑标准的自动评估者达到F1=0.81/0.97,显著优于未校准前沿模型,证明编码专家推理是提示词工程无法替代的关键步骤。
文章利用十个来自不同工具的笔记作为合成数据集,对比了文本搜索、嵌入搜索和带重排器的嵌入搜索三种策略。文本搜索仅匹配关键词,会遗漏语义相同但用词不同的记录;嵌入搜索通过向量相似度匹配语义,能发现未包含查询词的文档,但可能因相关性不足将次要结果排在前面。
Wenlan 是一款本地 AI 原生知识库工具,将笔记、代码和 AI 聊天记录转化为维基页面,并自动标记无法通过引文匹配源的内容。 支持 macOS 11+ Apple Silicon 及 Windows x64,通过 MCP 或 Plugin 接入 Claude Code、Codex、Cursor 等 AI 工具,数据仅存储在本地。
OXR 正式开源,主模型 1.3B 参数在 OmniDocBench、olmOCR-Bench 和 DocParsingBench 三项基准测试中分别取得 97.18、87.84 和 87.76 分,均位列第一。
同一新闻,精选展示《OXR 1.3B 开源模型发布:通过 RSI 重塑 OCR 性能》
提出 5W1H+Which 设计,分离源自内容提取与渐进本体绑定,支持可检查前提推理,未绑定内容仍保持可搜索。 通过记录链接至版本化本体元素、映射关系及适用范围,结合时间、地点等约束使用,该方案支持下游训练与基于基准的评估。
该研究证明 LLM 服务中的前缀共享优化在数学上等同于在请求上构建二进制层次结构,打破了传统固定顺序的假设。 作者提出 O(3^m) 精确算法,指出聚类算法可实现 1/2-近似最优节省,并识别出两部件情况对应最小点覆盖。 在 BM25 检索迹线上,新布局使 prefill 减少 17-36%,且层级 DFS 排序可精确达到无限缓存最优性能。
研究人员发布 FinLifeBench,包含 6000 个韩语银行对话,评估 LLM 重建 24 类生活事件和 34 条财务状态路径的能力。 测试 11 个 LLM 发现,事件锚点召回率随对话长度增加从 0.591 降至 0.445,主要因遗漏事件而非定位不准。 财务状态重建易将过时信息视为最新,最佳 GCA@15 仅为 0.470,且两项任务表现弱相关。
GraphDancer 是一个强化学习框架,通过交替执行推理与函数调用,教LLM遍历图结构知识。在GRBench基准上,它使用Qwen2.5-3B-Instruct或Qwen3-14B作为主干模型。
研究团队提出一种基于门控的 KV 缓存驱逐方法 Fast KVzip,可将 KV 缓存压缩 70% 且保持近无损性能。该方法引入轻量级 sink-attention 门控模块,仅依赖前向传播训练,无需反向传播,并适用于冻结权重的 LLM。
研究团队提出“构思空间”(Ideation Space),将科学知识分解为三个维度,结合层级子空间检索与分解新颖度评估算法,改进文献检索与创新性判断。 实验显示,该框架在检索任务中 Recall@30 达到 0.329,较最强基线提升 16.7%;新颖度评估与专家判断的相关性优于所有参数规模达 70B 的开源 LLM 基线。
CoinRAG 通过复用细粒度信息碎粒 KV 缓存优化长上下文 RAG,在 LongBench 多跳问答任务中将平均 F1 提升 5.3%。 该方法通过两阶段检索识别语义单元并组装切片 KV 表示,支持 CacheBlend 选择性重计算。
LatentRAG 框架将推理与检索从离散语言空间转移至连续潜在空间,推理延迟降低约 90%。 在七个基准数据集上,该方法性能与显式 Agentic RAG 相当,并支持端到端联合优化。该研究已作为论文发表于 NeurIPS 2026。
提出 BERAG 框架,利用贝叶斯规则逐 token 更新文档后验概率作为集成权重,以解决传统 RAG 中“迷失在中间”效应及计算成本随上下文长度二次增长的问题。 该框架支持并行内存使用和明确的文档贡献归因,在基于知识的视觉问答及多模态 needle-in-a-haystack 基准测试中显著优于标准 RAG,并能通过文档剪枝实现比标准 RAG 更快的解码速度。
ParallaxRAG 提出对称多视角框架,将查询和知识图谱解耦至对齐的注意力头特定语义空间,在 WebQSP 和 CWQ 上实现最先进性能。 该方法强制多头间关系多样性并约束弱相关路径,构建更精准子图以引导 LLM 进行基于跳数的推理,显著降低幻觉率。 其强泛化能力在生物医学 BioASQ 基准测试中得到验证。
研究团队提出 KnowMT-Bench 基准,用于系统评估 LLM 在医学、金融和法律等领域多轮长文本问答中的表现。 该基准采用动态评估设置,让模型根据逻辑递进的问题序列生成自己的多轮对话历史,以反映真实场景。
CRIM框架将物品级语义编码与请求级历史建模分离,在MovieLens-1M等数据集上取得SOTA检索性能并大幅降低推理成本。 通过可学习摘要token将物品压缩为连续记忆,利用REC token引入预测监督,且记忆可跨请求复用以消除重复编码。 该机制支持联合训练以优化编码器,作者将公开代码和LazSeq数据集。
AgentMemRec 提出将 LLM Agent 记忆选择形式化为预算化列表推荐,无需 LLM 调用即可从存储记忆中筛选进入上下文窗口的条目。在 LongMemEval 多会话问题上,该方案比 A-Mem、HippoRAG 2 等现有记忆方法准确率提升 10 至 31 分。 系统借鉴推荐级联架构,通过优化候选生成与排序,使列表更常包含完整证据链,从而在降低服务成本的同时提升长期记忆准确性。
Ouro-1.4B 和 Ouro-2.6B 研究显示,注入第 3 循环查询可挽救 90% 和 97% 的错误双跳检索,优于乱序对照组。 该效应主要在合成场景及 Ouro-2.6B 的贪婪生成中有效,且依赖供体桥接实体。 结果表明晚期循环查询支持基于桥接条件的检索,但未定位桥接计算位置。
Query-time RAG 过滤器在标准基准上表现接近完美的检测能力,但作者发现这是由毒化集构建方式而非过滤器实际读取内容所决定。移除毒化文档中目标问题前缀可使 RAGuard 的 miss rate 从 0.191 升至 0.763,而 TrustRAG 在填充无内容噪声后 miss rate 升至 0.827,说明防御仅在特定操作点有效。
语言模型在动态评估中通过梯度步降低损失。Softmax 模型在 2k 窗口下比 32k 冻结模型少 5-8% 损失,而 Gated-DeltaNet 模型增益不足 1%。 扩散模型效果更显著,Nemotron-Diffusion-8B 提升 8%,DiffusionGemma-26B 提升 17-20%。该适应主要改变风格与词汇,无法恢复被截断上下文导致的检索准确率损失。
在 SWE-bench 300 个 issue 上,CQ2-CARE 通过整文件选择策略让 GPT-5.6 和 Claude Opus 5 分别解决 43.7% 和 46.7% 的缺陷。 相比最佳压缩器和高检索器,该方法分别高出 6.3 和 9.3 至 12.7 个百分点。 此方法无需压缩模型,保持代码原样,提升 patch 成功率。
CalibraRL 提出一种融合响应置信度与查询级回答证据的强化学习框架,旨在缓解 RAG 中的幻觉。 该框架利用 Brier 惩罚项校准置信度与正确性的匹配,并通过 Beta 后验估计弃答奖励。实验显示 CalibraRL 在两个骨干模型和三个数据集上将平均期望校准误差(ECE)降低了 30.8%。
QERA 提出在回答前将请求转化为需求清单和类型化信息需求,通过代码过滤确保忠实性,并在整个对话中回答问题。 该架构无需训练或评分标准,每任务约需4次LLM调用。在405个任务和4个前沿LLM上,QERA平均解决率为21.0%,高于最强推理时基线的18.2%和直接回答的14.6%,且token消耗仅为Ctx2Skill的4-5%。
提出名为 CrashDB-QA 的全本地化模式接地智能体工作流,支持使用自然语言分析碰撞数据库。 该工作流使用 9 个本地开源模型在 440 万条威斯康星州碰撞记录上进行评估,其中 7B 代码专用模型在准确性和延迟之间取得了最佳平衡。 通过领域接地显著提高了查询准确性,并证明了本地化工作流在扩展碰撞分析可用性方面的潜力。
AskGLP1是一个将在线患者叙述转化为知识图谱并回答药物体验问题的LLM智能体。该管道基于MedDRA术语,筛查了850万条Reddit帖子及2,506条WebMD评论,构建了385,790个药物副作用与用途关系的知识图谱。
研究评估了智能体 RAG 中一致性事实性的可靠性与信息量权衡。实验使用 GPT-6 Luna 和 Llama 3.1 8B 模型,在 95% 目标下,非空响应覆盖率在 17.23% 到 60.17% 之间波动。
本文综述 LLM 工作原理,覆盖 Transformer 架构、预训练、微调、RLHF、RAG 及 CoT 提示。 提及 FlashAttention 降低计算开销、QLoRA 节省内存,并建议独立核查事实准确性与幻觉问题。
免训练框架 SemanticTree 通过语义层次结构优化长上下文问答,在 LongBench 任务中将平均 QA-F1 提升 1.72 点,同时降低答案上下文长度 58.55%。 该框架利用单次生成构建可复用语义树,结合结构语义评分与细粒度词汇归因,保留原始文本以维持局部完整性。 代码已在公开仓库提供,验证了在四个前沿回答模型上超越基线的性能。
大规模评测发现,许多专用 Agent 记忆系统在许多情况下表现不如 naive RAG,导致净价值为负。 研究将记忆净价值分解为记忆收益与记忆税,指出记忆处理改变原始信息组织导致证据被移除或模糊化。 作者提出“记忆税”概念,旨在将关注点从独立性能转向净价值,并计划开源代码与结果。
提出首个无需文档的 Text-to-SQL 框架,通过分析历史查询日志构建知识图谱。 在 Beaver 基准测试中,该方法的执行有效率达 95.7%,远高于嵌入检索的 60.8%。 内部专家评估显示,该方法在自然语言数据库接口方面表现优于现有行业标准。