TRIO:用于检索增强生成(RAG)的任务精炼与个体优化
该研究提出TRIO方法,通过为三个设计良好的Agent配备迭代精炼范式,解决当前RAG检索不足和幻觉问题。 具体地,查询扩展Agent基于改进的答案质量量化奖励,共识投票标注扩展查询是否充分以优化裁判Agent,答案Agent则通过课程学习进行动态匹配奖励优化。 在多个基准数据集上,TRIO相比SOTA方法有效性得到验证。
该研究提出TRIO方法,通过为三个设计良好的Agent配备迭代精炼范式,解决当前RAG检索不足和幻觉问题。 具体地,查询扩展Agent基于改进的答案质量量化奖励,共识投票标注扩展查询是否充分以优化裁判Agent,答案Agent则通过课程学习进行动态匹配奖励优化。 在多个基准数据集上,TRIO相比SOTA方法有效性得到验证。
EffComp 针对 RAG 问答任务提出高效提示词压缩框架,在多个基准上实现了压缩率与准确率的最佳平衡。 该框架采用 BERT 风格文档重排序器和句子选择器模型,通过混合强化学习与监督学习优化压缩过程。其抽取式特性防止了幻觉,且延迟极低,适用于实际生产环境。
FindLink 在 1,545 题固定证据测试集上,将均衡宏分数从 67.95 提升至 87.25。 该框架通过 Premise Grounding 构建前提,利用 Structured Reasoning 生成证据条件答案,并引入确定性编译器验证结构一致性。 研究指出,科学推理不仅需识别前提,还需评估前提所支持的逻辑连接。
CUE-MT 采用检索增强文化评测训练社交媒体翻译模型,在 9B 至 35B-A3B 骨干架构下超越同规模开源基线。 该方法引入领域专用 Judger 与 Agent 挖掘难例,检索证据使 Judger 四分类准确率提升 8.07 个百分点。 人工评估显示其文化有效性较最强外部基线提高 7.44-15.12 个百分点。
基于关系知识筛选紧凑知识图谱上下文的方法,其选出的事实使七种开源LLM的精确匹配表现优于相关度排序。 在SubgraphRAG基准测试中,该方法仅用四分之一的prompt tokens达到同等效果;精度门控在WebQSP和CWQ上分别回答了18%和5%的测试集,准确率为90%和96%。
提出基于 PRISM 框架解决在线医疗对话中患者披露和话题转移问题。该框架解耦潜在状态估计与动作选择。在 16 个医疗对话数据集上,PRISM 临床决策准确率领先前沿 LLM 和临床智能体 22.40 个百分点,BERTScore_F1 超最强基线 5.51 分。
RAG-TRACE 研究指出,在 AI 生成 ECG 报告中引入检索增强生成会导致 46.8% 的 GPT-4.1-mini 报告包含无法通过测量验证的诊断标准。
DuSE-Bench 基准测试包含 1000 个任务,用于评估在演化对话与文档上联合推理的能力。其中 700 个任务的前提同时源于对话和文档。 在 11 种基线配置中,联合 grounding 任务的内容准确率最高仅为 56.7%。
团队发布 560M 参数塔吉克语嵌入模型 Saidzoda-Tajik-E5-Large,在未见过的法律文档测试中 Top-10 检索准确率从 80.2% 提升至 93.6%。 模型基于 multilingual-e5-large-instruct 微调,使用 235,140 组数据训练;在税务文档上准确率达 94.5%,性能与 Giga-Embeddings-3B 持平但参数量仅为其五分之一。
研究提出模型无关的 TDGE 算法,通过自动构建任务维度-特征-物品层级实现自顶向下探索。 该算法在 MovieLens-20M 等推荐数据集上显著提升了探索效率和冷启动适应能力。 实验表明其性能提升归因于层级结构和语义特征空间探索,且推荐轨迹与人类行为模式相似。
Prior Labs 开源发布关系学习软件包,包含 RelArena-α 基准框架、TabPFN-Rel 模型及 RPI 接口,旨在加速关系学习领域的研究与落地。
研究发现 LLM 推荐系统的微调数据预处理显著影响效用与公平性。在 MovieLens-1M 实验上,使用原始标题使 HR@10 从 10.67% 提升至 12.47%,Coverage@10 从 41.36% 提升至 47.88%。 年龄平衡和知识补充能减小组间效用差距且基本保持效用,但性别平衡会降低效用且未能改善相关指标。
EviCast 框架通过干预性证据状态分解预测 RAG 检索价值,无需执行所有配置即可计算净效用及 95% 置信下界。 该框架结合生成器响应与候选检索器离线分布,在 HotpotQA 14 种配置中预测误差仅 2.75 F1 点,并减少 80% 诊断生成调用。
污染仅3.1%至7.4%的训练语料可使模型Top-k检索准确率下降最高46.9%。 现有检索防御在此威胁下检测率崩溃且表现不稳定。 新提出的GLAD防御在LIAR-RAW基准上恢复了73%至80%的性能退化。
CacheWeave 提出原生块选择器,在 5% 重算预算下平均准确率超 CacheBlend 7.2 个点。 其运行时 CacheWeave-Serve 将单请求 TTFT 最高降低 16.1 倍,负载下 SLO goodput 提升 7.8 倍。 该方案有效缓解了独立编码导致的精度损失,支持混合注意力模型。
微调后的大模型存在“两跳诅咒”,即无法将新事实与原有知识进行多跳推理。Legible方法通过让桥接短语在中间层匹配模型对新实体的内部表征来解决此问题,无需合成多跳数据。 该方法在Qwen2.5、Llama-3和Qwen3模型上验证了效果,其桥接准确率是CaKE方法的1.8-2.6倍,并在RippleEdits基准上成功破解14B模型的两跳诅咒。
研究发现现有 LLM 语义缓存(如 vCache)未充分利用错误预算,仅实现 12-55% 的目标误差率 δ。 新方法 Surplus 通过共享风险评分和动态风险桶,在五个查询流中均维持 δ 约束,且比 vCache 多获得 40% 命中。 在 vLLM 测试中,Surplus 在高负载下将平均延迟降低 31.59%,优于 vCache 的 23.67%。
TSSDA 框架利用自主智能体生成时序 SQL 数据,并构建了名为 TERN 的时序 Text-to-SQL 基准。 该智能体通过建模语法语义扩大查询覆盖范围,利用时序感知记忆跨异构实例复用经验以提升生成效率。 实验表明 TSSDA 显著提升了数据生成的覆盖率、多样性及复杂性,并揭示了现有模型在时序 Text-to-SQL 任务上的局限。
ReCoG 提出通过构建独立于原始图结构的节点上下文提升跨域迁移效果。 该方法利用共同邻居构建结构上下文,并基于邻域属性摘要构建语义上下文,在 18 个目标数据集上验证有效性。 ReCoG 使 1-shot 跨域节点分类平均准确率超最强基线 7.61 个百分点,异构图跨类型迁移提升 4.47 个百分点。
Scute 基于 vLLM 实现 DoRA、IA3、VeRA、OFT 及 LoRA 五种 PEFT 方法的统一精确批处理服务。 通过将各方法映射至含六槽位的 LoRA 计算通式,Scute 在 Hugging Face PEFT 库基准测试中平均误差小于 1.5%。
针对多轮对话中嵌入相似度预测复用风险不准的问题,提出 CUCB-SC-MT 和 CLCB-LS-MT 算法。 利用裁判反馈学习复用风险,在 1,000 个缓存条目下避免 35--41% 生成成本,降低 19--35% 延迟。 优于 ContextCache 等基线,适用于数学辅导和电影购票等多轮场景。
研究团队提出多视图掩码自编码器MVMAE,解决异质图自监督学习中高计算成本、均匀随机掩码局限性及重建噪声特征目标不佳的问题。 该框架采用多视图先掩码后重建策略,通过离线聚合机制预计算重用元路径视图表示,避免构建子图,并使用基于Transformer的融合编码器和简单MLP解码器,在六个数据集上性能优于SOTA基线。
ProLand 提出一种无回缩优化器,结合 Muon 风格谱方向与 Stiefel 流形上的 Landing 方法,解决 LoRA 微调中基向量冗余问题。 在 DeBERTa-v3-base 及 Qwen2.5-3B 等 11 项任务中,ProLand 在所有测试配置下取得最高平均分。
OntoKG-EQ 提出分析型知识图谱的证据边界审计框架,通过可执行审计连接能力问题与已交付证据。 该框架利用有界声明式解释器区分数值状态,在英国 2026 年 8 月公共数据应用中,与发布者工作簿对账了 532 家提供商,91 家满足 92% 阈值。 贡献是可重复的分析审计接口,未测试独立生产部署效益。
提出 Matryoshka Hash Representations (MHR) 方法,通过两阶段分离全宽训练与前缀组织,提升紧凑语义检索效率。 MHR 先学习长二进制码并冻结模型,训练残差适配器以支持直接可搜索前缀。在 16 字节下 NDCG@10 达 0.502,优于基线 0.404。 性能在 BEIR 数据集及不同随机种子中保持稳健,适用于候选筛选与图索引剪枝。
FactForm 在 998 个 EVOUNA 回答中达到 0.077 的平衡错误率和 0.985 AUROC,优于传统评分器的 0.112 和 0.930。 它每次回答仅调用一次 LLM,通过程序化公式打分,运行间平均绝对差异为 0.0136,稳定性优于 LLM 评审。 该方法旨在提升开放式问答基准测试评分的准确性与可复现性。
研究指出医学影像 AI 十年未转化为临床影响,源于设计评估与临床决策的结构性错位,识别出 8 个互相关联的错位维度。 错位包括仅像素模型主导、基础模型在数据稀疏领域失效、验证算法与可部署平台脱节等,AI 有替代而非扩展医生判断的风险。 文章提议以医生为中心的智能体推理路径,旨在生成可执行的临床指导,实现 AI 扩展而非取代临床判断。
SemFlowRAG 提出了一种将平坦检索空间重构为语料自适应语义梯度图的框架。 通过量化语义抽象性并设计抽象度引导的有向 PageRank 算法,强制检索轨迹沿“高到低语义抽象度”梯度行进。 实验证明该框架有效缓解了高抽象概念节点导致的“概率黑洞”问题,在检索及下游推理性能上优于现有基线模型。
监督式双编码器检索器隐含了文档级别的相关性先验,该先验可泛化至未见文档,并在不同模型间保持一致。 通过对冻结文档嵌入训练简单分类器评估三个最先进检索器,发现具有较低先验的文档即使真正相关也更难被检索到,形成“可发现性差距”。 这种偏差在 BM25 中较弱且不稳健,通过 LLM 解释发现,判定相关的文档往往是关于主流话题的综合、自包含的摘要,而利基、碎片化或高度技术化的内容常被遗漏。
研究引入“概念场”方法,在句子嵌入空间中估算局部漂移场,利用 z 分数量化句子过渡的 groundedness,提供可解释且模型无关的度量。 方法依托向量序列数据库(VSDB)存储嵌入及位置元数据,并引入 $\zeta$ 分数评估句子一致性。
该研究提出分布感知检索嵌入框架 DARE,将数据分布特征融入 R 函数检索,解决现有 RAG 忽略统计方法适用性特征的问题。 框架包含含 8,191 个 R 函数的 RPKB 知识库、面向 R 的 RCodingAgent 及 100 项统计任务的 RStatBench 评测基准。
MIGRASCOPE 提出基于互信息的指标以量化检索质量、冗余度及边际贡献,弥补现有 RAG 评估仅依赖 Recall 或 MRR 的不足。 在 4 个语料库和 13 种 SOTA 检索器(含词法、稠密及图基)上验证了该框架有效性。 结果表明图基检索器间存在冗余,而 BM25 具有信息互补性,基于互信息归因的集成可超越单一检索器。
论文提出Wonder系统,利用小型辅助LLM在主要LLM推理期间推测性预加载数据库。 通过预测查询形状编译、预热缓存及预计算超集结果,缩短SQL执行等待。 在代理工作流评估中,SQL执行时间最多降低31.8%,总推理与执行时间最多降低22.6%,带来生产力提升。
提出 A/B Agent 框架,通过层级经验树和 Tree-RAG 实现工业推荐策略自进化,短视频电商 GMV 提升 4.829%。 该框架整合历史策略组织、目标感知生成及实验引导自进化三大组件,支持多路径检索与在线反馈自动调优。 离线与在线评测证实其有效性,且在所有护栏指标上保持正向增益,显著降低人工迭代成本。
研究团队推出 MMCOMET,这是首个整合物理、社会、事件知识与视觉 grounding 的大规模多模态常识知识图谱。 该图谱扩展了 ATOMIC2020,通过混合对齐管道为每个常识三元组关联代表性图像,生成超过 90 万条覆盖 19 种关系类型的多模态数据。 分析表明,多模态 grounding 在推理密集场景下比纯文本或 LLM 生成知识更可靠,但需自适应路由以避免感知主导任务中的噪声干扰。
VeriCypher是一个LLM驱动的文本到Cypher框架,专为Labeled Property Graphs设计。 其核心机制是命名实体验证:系统提取生成查询中的节点、关系和属性,与目标图谱比对,并将不匹配项转化为修正指令。 在CypherBench基准测试中,该方法相较于基线模型一致性地提升了答案正确率和查询鲁棒性,有助于纠正幻觉元素。
针对 7 个医学数据集的 11 种架构对比显示,KAN 变体(如 TabKAN、ReLUKAN)在严重类不平衡场景下比 StandardMLP 具有更高的 AUPRC。 KAN 推理延迟增加 1.20x 至 1.48x,可训练参数最多增加 12.5x,整体判别力与 MLP 相当。 在追求稀有阳性病例精确度时,KAN 是可行的替代方案,StandardMLP 仍是效率帕累托前沿的强基线。
Scalaris 是一项可扩展的企业级记忆架构,专为对话 AI 系统设计。它采用统一的长期与短期记忆设计,将用户交互与助手响应分开处理并配备专用管道,以解决检索准确性与上下文效率之间的权衡。
采用多教师LLM构建多样推理池,结合学生自探索与Rank-Gain效用评估筛选最优轨迹。 在三个真实数据集上验证了该自适应蒸馏方法在推荐任务中的有效性与鲁棒性。
MemShift 提出基准测试,将 LLM 个人记忆的维护分解为检测和修复两个步骤。 该基准包含五种转变类型(源修订、删除等),并采用确定性评分器替代 LLM 评判。 评估四个开放权重 LLM 发现,检测效果受限于修复能力;LLM 编写的程序在类型化记录上可缩小与精确重算的差距。