BioMem:面向生物医学 LLM 智能体的记忆机制与 HMRU 框架研究
BioMem 研究提出 HMRU 框架,在生物医学问答与对话记忆基准上平均提升 8.6%。 该无训练框架同时增强证据可及性与任务感知利用,降低对话回答错误 24.9%。 HMRU 弥补了 48.0% 的全上下文推理性能差距,适用于临床预测等场景。
BioMem 研究提出 HMRU 框架,在生物医学问答与对话记忆基准上平均提升 8.6%。 该无训练框架同时增强证据可及性与任务感知利用,降低对话回答错误 24.9%。 HMRU 弥补了 48.0% 的全上下文推理性能差距,适用于临床预测等场景。
DotRAG是一种轻量级、免训练的GraphRAG检索算法,利用LLM推理缩小搜索空间,在MetaQA 2-hop查询上实现97.78%召回率,显著优于基线。 该算法在索引阶段构建实体关系图谱并生成全局概览,查询时通过LLM假设关系序列并执行定向检索,相比HopRAG检索延迟降低12.2倍。
研究测试了 LLM、RAG 和 Agentic 搜索在无效 Bug 报告细分及无代码修复生成中的表现。 子类细分中 RAG 加权 F1 达 0.66 最高;无代码修复生成中 Agentic 搜索 Judge LLM 成功率达 68.9%。 旨在解决手动处理无效报告造成的资源浪费,相关成果已提交 IEEE TSE 审稿。
OmniReview 包含 202,756 条经核实的评审记录,并提出了 Pro-MMoE 框架。 该框架结合 LLM 语义画像与 Task-Adaptive MMoE 架构,在 7 项指标中的 6 项上取得了 SOTA 性能。 Pro-MMoE 为现实评审员推荐树立了新的基准,解决了嵌入方法的语义压缩瓶颈。
基于 TRACE 架构的 AI 助手实现草案立法反腐败风险评估。在 132 部乌克兰法案构成的基准测试中,使用 Gemma 4 31B 时前 10 项标记命中率为 0.28。系统通过确定性解析核心与 LLM 评估结合,未匹配 32 项法律冲突发现。
论文针对多智能体系统提出私有知识检索与私有推理机制,通过设计签名系统防御语义记忆中毒攻击。 架构采用本地 Prolog-like 推理系统访问外部签名知识库,提供基于 k-匿名及信息论隐私的 Python 实现。 该方案旨在通过“安全设计”避免恶意利用漏洞篡改智能体知识,从而保障系统安全性。
提出无需训练的 SELD 检测器,用于识别压缩过程中答案未变但证据缺失的情况。 SELD 在 SEL-Pairs 基准测试中表现优于最强基线,在答案不变的成对样本中识别出 83% 的证据删除编辑,而最强基线仅为 70%。
研究利用大语言模型将长列表的因果解释(CFX)交互编辑转化为简洁自然语言总结,以提升用户可理解性。 在MovieLens-1M数据集上,ACCENT和SPINRec方法表现出最优语义效果,且直接偏好优化(DPO)在几乎所有设置中提升了语义指标。
提出一种结合在线自适应模糊认知图与 LSTM 的神经符号金融预测框架。 框架 I 在 NASDAQ 数据上收益率符号准确率超 LSTM 基线 7.6 个百分点,新机制下 10-15 个交易日收敛。 框架 II 引入 LLM 增强与可审计引用,中心节点状态方向准确率介于 68.9% 至 85.7%。
针对医学多选题中选项间证据重叠导致区分困难的问题,研究提出一种检索增强的鉴别证据框架。 该方法提取各选项特有的鉴别证据并组织为简洁提示词,在多个数据集和目标 LLM 上均实现了一致的准确率提升。 消融研究证实该框架性能优于直接使用检索证据块或闭源 LLM 生成的通用提示,其增益主要源于对竞争选项推理的有效辅助。
在六个视觉语言模型中,文本加图谱可视化提示平均提升 1.85 F1 点,主要源于低复杂度问题精准度提升 4.65 F1。 多模态增益不依赖模型规模,但对图谱布局敏感:层级 Graphviz 布局优于杂乱渲染,分解大子图效果最佳。 研究建议采用自适应视觉提示策略,仅为小型且结构良好的子图添加图表,以平衡精度与推理效率。
HandsOnAid 在 Pixel 7 Pro 手机上实现离线急救响应,4-bit 微调 Gemma 2B 模型首次生成文本耗时 6.86 秒。 该模型经 QLoRA 在 5,550 条急救问答上微调,检索增强版得分 2.51/5,高于基础模型的 2.34 分。
研究通过 margin 统一视角解释 LoRA 抗遗忘能力与 Adapter 合并机制,并提出免训练的 MaLoRA 合并规则。 在正则化中间区间,最优 Adapter 对齐 max-margin 解;正则参数控制预训练数据保持与新任务适应的 margin 权衡。 该合并规则在多任务基准中匹敌或超越现有基线。
在 256K 上下文长度下,ADIndex 将预填充和解码内核速度分别提升至最高 6.22x 和 3.40x,在 128K 上下文下实现 1.54x 的端到端服务加速。 该技术有效解决了 DeepSeek Sparse Attention 索引器在长上下文推理中占用超过 50% 预填充 GPU 时间的延迟瓶颈。
Tevatron 3.0 集成 Megatron-Core,开放源代码并支持 Qwen3-30B-A3B 重排序器训练。 在 BEIR-15 测试中,全参数 8B 密集模型 epoch 时间降低约 4% 至 22%,内存占用提升;MoE 模型激活参数减半且推理吞吐量更高。
AdaPath 提出通过 Path-Bank 检索查询自适应元路径,以解决生物医学问答中查询不暴露中间推理及知识图谱连接密集导致路径易错的问题。 框架在多个生物医学 KGQA 基准上持续优于基线模型,并能有效裁剪密集邻域。研究同时发布了 BioStrat-QA 基准,并按中间推理暴露程度对多跳查询进行分层。
SparseRead 通过控制内容准入而非修改模型,在 6 个模型(含 Claude Opus 5)和 5 类场景中测试,最高减少 92.9% token 消耗与 89.0% 运行时间。
研究人员提出 CAPE 策略,通过定义基于预言机的 NOCT 目标并学习对比获取效用流形,在纵向主动特征获取中平衡预测损失与获取成本。 该方法在合成及真实医疗数据集实验中优于非参数、贪心及基于强化学习的替代方案,以更低成本实现更高准确率。 代码已公开,论文被 NeurIPS 2026 接收。
针对跨域联邦学习(CFL)中机构在协作训练与市场竞争间的“合作竞争”困境,研究者提出CoCoGen+框架。该框架将GenAI合成数据生成内生化,通过加权势博弈建模数据异构性与组织间竞争,平衡学习收益、计算成本及竞争带来的效用损失。
提出后端无关的闭环控制器 MemR3,将对话记忆检索重构为显式有状态决策过程。 MemR3 维护证据与未解决需求的证据缺口状态,通过检索、反思和回答三个动作路由。在 LongMemEval_s 上,MemR3 超越隐式多步检索基线,长对话中仅检索 1%-5% 的全量 token。 该论文已被 NeurIPS 2026 接收,证明显式证据缺口追踪是令牌高效的对话记忆有效抽象。
summary_zh: Rule Forest 利用 LLM 生成 YES/NO 问题并组合为等权记分卡,在预测稀有事件时准确率媲美加权模型。 在创始人成功预测中,筛选出的成功比例从约 1/50 提升至 1/10,增加少量专家规则后达 1/6。
FREESON 框架通过 CT-MCTS 算法在语料库中探索答案路径,替代传统独立检索模型,消除表示瓶颈并避免固定 top-k 检索的噪音。 该方法让大语言模型直接导航原始文本,在 9 个基准测试中平均 EM 和 F1 提升 15 点,医疗 QA 零样本表现与 MedGemma-27B 持平。 NeurIPS 2026 主赛道论文证实了其跨领域通用性与优势。
RoutingTrie 在束搜索前整合元数据约束,通过共享 SID Trie 和紧凑索引(Dense Bitset/Sparse List)过滤无效候选,提升生成式检索效率。 生产环境测试显示其 Hit@100 从 67.5% 提升至 96.1%,仅增加 1.1 ms 延迟,并计划开源 ShopTrie 基准测试工具。
RecoGEM 作为生产级生成式推荐服务系统,采用运行时与引擎解耦架构,解决 GR 在解码步骤与 LLM 服务栈间的结构性不匹配问题。 系统针对短 token 序列与大候选集优化执行引擎,支持 10 余个 GR 模型族,单实例 QPS 超 1000,P99 延迟低于 35ms,吞吐量较基线提升 2.88 倍。
针对生成式推荐器编写搜索结果页时无法精确执行实时资格与去重约束的问题,作者提出 LEGIT 方法,通过深度优先遍历将规则转化为范围查找,确保每个生成的语义 ID 都对应真实且合格的商户或商品。
提出一种持续指令调优的意图编译器,用于云边连续体资源管理,将大语言模型置于低延迟控制器之上。 实验采用2B参数模型骨干,验证了朴素顺序调优会导致灾难性遗忘,而重放存储示例能有效防止遗忘,该编译器在重述意图上的鲁棒性优于语法解析器。
SlimFM 通过压缩 LLaMA3-8B 构建低延迟推荐管线,在四个数据集上保留 99% 以上精度,推理延迟降低最高 3.4 倍。 该框架采用依赖感知结构化剪枝将模型压缩至 4.5B 参数,结合 LoRA 微调生成字段级语义嵌入并注入 CTR 特征交互。
FedUR 是首个利用 CLIP 等预训练视觉语言模型零样本能力进行联邦无监督识别的框架,其性能在标签级和特征级分布偏移下均优于基线方法。 该框架通过类感知数据选择策略处理数据异构性,并在服务器端聚合通用视觉提示词、在客户端保留个性化文本提示词。
VisProve 模型通过结合可微分空间证据读取与反馈,将科学文档问答的 Typed-F1 从 3.52 提升至 5.48。 该模型基于包含 3,941 个问题的 ReViE 数据集进行训练,采用门控范数受限残差连接条件化下一 token 预测。 实验表明,将视觉定位与支持关系建模相结合主要改善了细粒度溯源,揭示了答案生成与证据归因间的显著差距。
论文提出一种校准文档局部块边界的两阶段框架,基于 InSeNT 优化上下文块检索。 该框架通过自适应判别尺度及块感知注意力机制,改善金块与相似负例间的区分度。 在 ConTEB 和 NanoBEIR 数据集上,该方法提升了上下文块检索效果,同时保持有竞争力的段落级检索质量。
ARMOR 提出将 RAG 鲁棒性分解为知识边界感知、检索验证和鲁棒推理三个子任务,利用自适应课程元学习提升噪声下的推理能力。 该框架引入自适应任务调度器生成训练计划,并通过组间优势估计缓解有限输出空间导致的模式坍缩,在 2WikiMultiHopQA、MusiQue 和 HotPotQA 等三个复杂推理数据集上均显著优于基线模型。
论文提出 MMGraph-Agent,一种基于缓存启发的多模态知识超图的统一多模态 RAG 框架,旨在解决现有方法的高构建成本、上下文窗口限制及离线/在线知识源缺乏统一训练的问题。
提出 Agentic RAG 框架 PatternBloom,将检索单元从内容转移至逻辑,通过外部化程序性知识突破推理深度瓶颈。 采用两阶段 RL 训练:第一阶段利用信息密度奖励(IDR)评分证据图,第二阶段通过模式增强奖励(PAR)结合图模式记忆(GPM)。
建立联系边际效用、矩阵分解与 Transformer 语言模型 Key-Value 缓存的理论框架,在地理挖掘文档信息提取中,11.2M 参数分类器实现 90% 一级准确率。 该框架通过统一分配规则优化内存预算下的缓存管理,支持分层 TIES 模型合并与 LoRA 微调,诊断出均匀密度合并导致的退化解,需校准密度消除。
PersonaDrive 提出了一种从人类演示中获取驾驶风格的视觉-语言-动作(VLA)代理,在 Bench2Drive 基准上比 SimLingo 提升 4.6% 驾驶得分。 该模型基于 15 名参与者的 CARLA 演示数据训练,通过 FAISS 索引切换风格无需重训,激进而保守风格下平均速度提升 19.8%。 数据集与模型权重已在项目页面开源,研究被 WACV 2027 接收。
研究团队发布开源基准 JUÁ,用于系统性评估巴西葡萄牙语法律文本检索,涵盖判例法、立法及监管等领域的异构集合。 评估涵盖词汇、稠密向量及 BM25 重排序管线,其中基于 JUÁ 监督信号微调的 Qwen 嵌入模型在特定子集上表现最优。
StateRAG 通过外部带类型状态控制检索流程,在 LongBench、QASPER 和 DocVQA 的 11 项质量指标中,有 10 项得分最佳。其 LongBench 宏平均 EM 和 F1 分别超 ReAct 6.3 和 6.1 个百分点,且单查询平均 LLM token 消耗低于 ReAct。
IntPro 提出了一种代理智能体,通过直接推断或生成候选意图解释来从用户历史中检索意图对齐记录。 该方法利用直接-检索监督微调(SFT)学习推断能力,并结合多轮 GRPO 及检索决策奖励优化意图预测与选择性检索机制。 在三种场景和三种模型骨干下的实验表明,IntPro 持续提升了上下文感知意图推断性能。
研究者提出 EMERGE 基准,包含 23.3 万条维基百科段落及 119 万条知识图谱编辑操作,涵盖 2019 至 2025 年七个年度快照。 该数据集基于 Wikidata 构建,实验表明知识图谱访问显著提升了可执行更新效率,并支持三元组弃用操作。 数据集与代码已公开,旨在促进开发能够利用新兴文本知识实时更新知识图谱的方法。
Sentinel 利用冻结的 0.5B backbone 和 Qwen2.5-7B-Instruct 等三个 reader,在 2,000-token 预算下优于全上下文。 该压缩器在 12 个 LongBench 任务中表现更优,支持中文迁移,且比 LLMLingua-2 和 CPC 具有更低的压缩延迟和 GPU 内存占用。