外部化记忆:具身智能体经验存储位置的预注册研究
将记忆检索附加到固定学生权重上使任务成功率提升34个百分点,达到49.3%参考值,显著优于仅蒸馏策略权重。 该预注册研究发现,当检索缓冲区接入后,适配器未带来可检测增益;同一冻结缓冲区可使基座模型成功率提升至48%。 研究建议在后续实验中注册对照以验证外部化记忆方案,在更难任务上检索优势未达显著水平。
将记忆检索附加到固定学生权重上使任务成功率提升34个百分点,达到49.3%参考值,显著优于仅蒸馏策略权重。 该预注册研究发现,当检索缓冲区接入后,适配器未带来可检测增益;同一冻结缓冲区可使基座模型成功率提升至48%。 研究建议在后续实验中注册对照以验证外部化记忆方案,在更难任务上检索优势未达显著水平。
IRAH 结合 LATS-IR 与离线元学习初始化,优化 Retrieval-Augmented Generation 流水线。 LATS-IR 执行 UCT 引导的层次化搜索,在 2 个 in-distribution 基准上优于 TPE 至多 6.4%,四基准平均 held-out nDCG@10 达 0.4816。 在受限评估预算下,IRAH 是检索流水线优化的竞争性方法。
提出“可争议治理”框架,专家智能体为有争议的元数据决策生成评分及引用论证,管理者在提交前可接受、拒绝、修改或添加论证,治理记录保留证据、干预措施及结果。 版本化领域词汇表为智能体提供特定领域术语及缩写定义,流程包含分诊路径,仅对不确定提案保留完整论证,并通过门控控制经核定的决策成为先例。
采用黄金数据模型(GDM)重构检索上下文的制药声明生成系统,显著提升了生成内容的合规性与个性化。 该模型包含1867条声明数据,支持4个产品维度。在6个产品受众细分中,预期适应症准确率提升29%,目标受众匹配提升67%,每周API成本降低29.5%。 此方法证明了在高风险监管领域,数据架构重构比扩展提示词规则更具可扩展性。
研究人员推出 Lean Finder V2,这是一个专为 Mathlib 设计的语义搜索框架,能通过模型级对抗训练和输入级查询重写消除用户查询中的歧义。 该框架在人类标注的 MathlibQR 基准测试中取得了新的 SOTA 成绩,相较于之前最好的 Mathlib 语义搜索引擎实现了至少 11% 的相对提升。
Gandalf 是首个具备 SSD 寿命感知能力的 KV Cache 卸载系统,旨在延长存储寿命。 该系统通过优先将全注意力 KV Cache 写入 SSD,平均延长 SSD 寿命 7.3 倍,且对缓存命中率影响极小。
为解决隐私约束下分布式知识图谱无法直接共享的问题,研究人员提出 FedGRAG 统一框架,实现多客户端的图检索与知识增强生成。 框架通过联邦知识路由机制利用轻量索引定位客户端,并采用受控披露方法将证据子图转换为证据摘要,避免泄露敏感实体。 实验显示 FedGRAG 在检索及下游生成任务中持续优于现有基线,确立了联邦环境下部署 GraphRAG 的新范式。
Raw-RAG在7个基准模型设置中的6个排名第一,比最强对比系统高0.13-5.53分。 原始历史检索的证据覆盖率高可抵消较低利用率,保留原始信息对准确率至关重要。 研究质疑复杂智能体记忆的必要性,确立朴素RAG为关键基线。
SGUR 提出无训练框架,通过结构化假设空间实现主动不确定性缩减。在医疗诊断基准测试中,SGUR 从 2 个初始症状出发,实现 92.5% Hit@3,比最强 Graph-RAG 基线高 9.4 个百分点,且 Token 消耗减少约 5 倍。该框架使小模型性能匹配或超越大 10 倍的模型,提供比单纯扩大模型规模更稳健、高效的智能体扩展路径。
针对 RAG 系统的安全风险,本综述对 118 篇论文进行人工编码,按实测端点而非防御机制分类,构建七族分类法。 32 名标注员双重编码一致性 Kappa=0.867;发现检索重排等机制无法确定防护结果,且 73.3% 研究以语料使用检测为主要端点。 实验显示 Qwen3-8B 上自适应攻击可恢复 48.3% 隐藏事实,作者已公开分类法、数据集及测试床。
针对乳腺病变管理文献的 RAG 系统,评估发现交叉编码器重排序在检索得分上表现最佳。 混合检索器采用 384-token 块长与 20% 重叠,Recall@3 等指标均达 0.94;Ground-truth 标注扩充使证据跨度从 25 增至 37,但未改变检索排名。 研究指出标注敏感性需通过独立验证及放射科医生评估证据充分性来确认。
研究团队评估了三种 LLM 生成的 4,500 份月经健康摘要,发现显式接地约束结合 RAG 能持续改善临床一致性,特别是提高了不确定性保留度。 虽然临床一致性提升伴随阅读难度和医学术语使用的增加,且在基于检索证据评估时通常保持了忠实度。 结果凸显了开发面向患者的医学 LLM 系统时,需联合评估忠实度、不确定性保留和可读性的必要性。
SurveyGraph 框架利用方法-实体知识图谱(MEKG)生成学术综述,其图感知检索在 8 次运行中将召回率提升至扁平词汇基线的近两倍(p=0.004)。 模型语义证据门控 AUC 达到 0.75,160 句生成内容的 80.6% 具备引用支持,108 条语义边中 68.5% 关系得到支持。
RIFT 提出了一族平衡预填充信息与近期生成令牌的 KV 缓存压缩策略,通过自适应刷新机制降低计算开销。 该策略结合基于稀疏注意力掩码的可压缩性驱动训练,显著提升了草稿模型在压缩缓存下的质量。在 32K 输入、4K 输出且 8K KV 缓存预算下,Qwen3.5-4B 为 Qwen3.5-122B 做推测解码时,保持了超过 98% 的全缓存接受长度。
120对中英文维基修订对显示,固定大小分块重算57-68%嵌入输入,递归分块为38-56%,内容定义分块为43-54%。 在2048 token检索预算下,各分块策略的证据召回率差异小于2个百分点,且成本排序随参数变化。
summary_zh: WikiOriginQA 通过维基百科各语种版本的知识创建日期,自动化构建了文化知识问答数据集,解决了人工标注可扩展性低的问题。 实验表明,LLM 性能倾向偏向英语文化,突显了知识向英语世界传播的重要性。
该研究提出一种方法,将自回归 LLM 控制编译为并行推理,实现策略精确且零输出 token 的执行。 通过将控制流编译为浅层动作前缀树,该方法在 MetaX 设备上匹配串行策略 84-89% 的问答,控制延迟降低 35-47%。 H800 重复实验证实了排序一致性。
SARL框架通过自评估强化学习,使大语言模型在训练中自主识别搜索状态,显著提升了检索增强模型的搜索行为。该框架采用双奖励设计,在无需测试时额外评估的情况下,取得了比最强基线相对提升24.3%的结果。在多跳推理和深度研究基准测试中,分别实现了35.9%和27.9%的平均提升,超越了依赖辅助监督或多智能体协调的方法。
IskayPet 基于 Amazon Bedrock 托管知识库构建了支持多语言的企业知识助手,通过 Kiro 和 Claude Haiku 4.5 开发,实现了无需管理 RAG 基础设施的知识检索。
中信戴卡部署豆包工作伙伴,将物料品类、参数及档案查询效率提升 24 倍。新系统支持多语言问答,平均响应时间从 60 分钟降至 150 秒。 该方案覆盖 52 名活跃用户,日均处理约 15 次咨询。搭建运营成本不足 1 万元,预计年化节省工时价值约 10 万元。
MARS 提出了一种无需微调的图问答方法,通过结构化检索迭代获取多跳信息,并根据问题自适应决定检索深度或生成最终 SPARQL 查询。该方法在多个 KGQA 基准测试中展现出与最先进的模型相当的性能。
CanLegalRAGBench 是一个基于真实查询和专家标注答案的加拿大法律问答基准,用于评估检索增强生成系统。 研究显示检索性能受设计选择影响,且开源嵌入模型在性能上可媲美闭源模型。 在生成答案中,有 8-29% 的声明未被检索到的文档支持。
PersonalAI 2.0(PAI-2)提出了一种基于动态多阶段管道的框架,通过规划机制增强知识图谱检索,在 2WikiMultihopQA 和 MuSiQue 基准上较基线平均提升 9 个百分比点。
研究团队发布 AfrIFact 数据集,覆盖 10 种非洲语言及英语,支持信息检索、证据提取和事实核查全流程。 实验显示最佳嵌入模型缺乏跨语言检索能力,LLM 在非洲语言事实核查上表现不足;通过 few-shot 提示,AfriqueQwen-14B 性能提升高达 43%,任务特定微调再提升 26%。 该成果推动低资源场景下信息检索与事实核查研究,数据集已公开。
论文提出 ClusterFusion 框架,将 LLM 视为聚类核心而非辅助模块,通过轻量嵌入引导划分、LLM 主题摘要和分配三阶段实现混合聚类。该方法无需高昂微调即可适应特定领域。在三个公开基准和两个新领域数据集上均达到 SOTA 性能,并发布了新构建的数据集与全部基准结果。
ResearchHub 是一个交互式生物医学预印本个人化文献发现系统,其核心检索器 prism 在 44,937 篇 MedRxiv 论文上比 SPECTER2-Search 提升 Recall@10 达 12.4 个百分点。系统支持基于阅读历史的前沿检索、DPP 多样性重排、LID 课程排序及轻量化归因卡片,全程保持低延迟运行。
研究提出 MAPS 框架,通过宏观自适应并行推理调节搜索动量,缓解检索增强生成中的查询意图漂移。 MAPS 首先保留检索知识与精炼推理状态,减少历史轨迹对后续子查询生成的影响,并将顺序推理扩展为并行范式。在六个问答基准测试中,MAPS 一致优于多种代表性的检索增强生成方法。
AoR 提出一种无训练过程,通过对比段落支持与不确定的替代方案,在对比解码中解决模型幻觉。 该方法在反事实段落上将采样准确率提高 12.5 个百分点,在普通段落上提高 2.3 个百分点,超越了 8 个基线。 该结果表明模型可以在保留常规段落准确率的同时,跟随与模型知识相悖的段落。
针对用户端 LLM agents 评估行为策略成本高昂的问题,Parlant 4.0 推出轻量级过滤器 Signals and Queries。 该方法利用独立逻辑回归分类器在下游评估前移除至少 30% 的候选策略,避免了每轮次的 LLM 调用。在涵盖 254 个 τ^2-bench 对话前缀和 36 条航空政策的测试中,该方法在保持高召回率的同时,精确度优于 top-K 和余弦阈值检索。
研究对比 11 种检索配置,混合检索 + Jev 实现 94.1% 最高证据覆盖率,而混合 + Decisions 取得 0.892 最高答案准确率。 全扫描策略在书籍测试中延迟更高,且后期缩减步骤可能丢弃证据;随着查询积累,可复用稠密检索的预计 API 成本低于付费决策方法。
该研究探讨引文在 LLM 偏好建模中的作用,发现人类偏好更多样但数量更少的引文。 LLM 对引文也表现出特定偏好,且不同模型间存在差异。 研究结果对优化偏好数据收集具有参考价值。
CORE 方法通过优化检索内容控制 LLM 搜索输出排序,平均提升成功率达 91.4%(Top-5)。 实验基于含 15 个品类的 ProductBench 数据集,在 GPT-4o、Gemini-2.5 等模型上验证,保持内容流畅性。 该研究有助于缓解独立创作者在生成式搜索中的可见性劣势。
DrugReason 框架整合知识图谱与 LLM 生成机制推理,用于药物重定位。 在 PharmaDB、DDInter 和 DrugBank 数据集上,该方法优于强单视角基线。 其可解释的路由预测提升了疗效关系预测的可靠性。
去标识化模型无法解决链接风险,本文提出结合 N-gram 倒排索引与 LLM 重写的两步法,在保持语义完整性的同时抵御基于搜索的关联攻击。 在法庭案件和维基百科传记两个数据集上的实验表明,该方法能有效防止基于搜索的关联,但对更高级的语义导向方法仍可能失效。 该研究揭示了去标识化技术在对抗复杂语义攻击时的局限性。
研究提出不确定性感知 ROC 框架及区间 AUC (iAUC) 指标,用于评估区间值风险预测。 该框架将正负样本排序分解为确信正确、模糊及确信错误三区域,在有效类条件覆盖下提供最优 AUC 理论边界。 实验表明,相似点 AUC 的模型可能存在不同不确定性感知排名,该框架支持风险感知模型选择及阈值弃权策略。
研究首次证明,通过操纵联邦学习客户端的传感器观测,可诱导服务器产生重复聚集内存更新,从而发起远程行锤击攻击(Rowhammer Attack)。 使用强化学习攻击代理在语音识别和 CIFAR10 分类任务中,实现了约 70% 的重复更新率(RUR),有效在服务器 DRAM 中引发位翻转。 该攻击可致学习中断或意外提权,揭示了联邦学习及硬件设计在安全缓解策略上的新方向。
研究利用 TReATE 方法估计症状存在与否的治疗效应,并将其与 CONEXP 等基于相关性的基线模型进行对比验证。 该成果有助于提升医疗决策支持系统的可解释性,使模型基于因果推断而非简单相关做出更可靠的判断。
研究显示,在阿尔茨海默病预测任务中,采用“先输出推理理由再输出标签”的监督微调策略,其预测性能显著低于仅输出标签的微调方式。 该结论基于包含 504 种配置的受控实验,证实此性能下降现象在多种模型家族和不同数据规模下均存在,且无法通过更换面向推理的基础模型来消除。 专家评估证实生成的推理理由在医学上是准确且符合患者证据的,表明性能下降源于模型对生成理由的条件依赖,而非理由本身的质量缺陷。
论文提出基于 softmax 输出的超球单纯形表示,用于独立训练模型间的后向兼容检索。 该方法利用 softmax 交叉熵训练形成的单纯形结构作为几何参考,通过确定性线性变换对齐类别原型,无需额外兼容性损失或架构修改。 在标准兼容性基准测试中,该表示在扩展类别集和独立训练模型上取得了有竞争力的结果。
论文提出 Code Comprehensor,一种结合代码依赖调用图、层级文档生成(CodeScribe)与跨模态检索(CodeContrast)的混合框架,旨在帮助 LLM 理解大型代码库。