利用稀疏自编码器解释医疗检索中的嵌入模型可迁移性
稀疏自编码器将医疗检索中的稠密嵌入转化为可解释表示,在6个医疗数据集上验证了其有效性。 模型结合重建目标与InfoNCE对比损失,在域内检索性能提升的同时,在分布外数据集上性能下降幅度小于稠密嵌入,且特征语义可通过激活它的查询和文档推断。 该方法揭示了特定文档被检索的原因,其可解释性可迁移至训练分布之外,有助于理解医疗AI系统的内部机制。
稀疏自编码器将医疗检索中的稠密嵌入转化为可解释表示,在6个医疗数据集上验证了其有效性。 模型结合重建目标与InfoNCE对比损失,在域内检索性能提升的同时,在分布外数据集上性能下降幅度小于稠密嵌入,且特征语义可通过激活它的查询和文档推断。 该方法揭示了特定文档被检索的原因,其可解释性可迁移至训练分布之外,有助于理解医疗AI系统的内部机制。
研究揭示 Gemma 4 模型在零温度下对上游调用方的相关得分能显著区分真实结构邻居与干扰项,而对下游调用方得分接近随机。基于此发现,提出免训练的 GraphScent 搜索控制器,通过传播关系条件对数似然比在运行时 Typed-AST 多图上定位缺陷。该方法在单 GPU 预算下,将 31B 模型在词汇困难目标上的精确定位准确率从 12.8% 提升至 23.4%。
研究人员提出MoREGT架构,通过结合关系专家混合图Transformer与LLM智能体,在减少预训练数据的情况下实现跨数据库模型迁移。 MoREGT将行和单元格视为Token,利用外键关系名称和行日志年龄增强注意力机制,智能体在无标签约束下生成衍生列。
RecMem 采用 16 个记忆槽和 216-token 解码上下文,替代 HSTU-1200 的 1200 tokens。 在 MerRec 数据集上,RecMem 保留了 HSTU-1200 87.9% 的 Recall@10 和 97.0% 的 Recall@200。 该方法使记忆状态独立于历史长度,已被 NeurIPS 2026 接收。
该框架整合流行病学证据约束风险因子权重,部署时毫秒级计算不确定性区间,速度比 Monte Carlo 采样快两个数量级。 在 5.3 万名参与者中验证有效,纠正 1.7 倍风险高估,样本需求降低 5 倍。
研究团队提出公益系统 AI-Voyager,通过人类与 AI 协作理解、质疑并制定 AI 治理规则。 该系统将 3,653 份政府治理文件转化为保留页码和版本的段落,通过限定范围智能体搜索检索证据,在 360 个新问题上实现 83.0% 宏召回率,优于最强基线的 80.5%。 通过绑定公开文档原文,AI-Voyager 引入了操作语法和设计空间,指导此类系统的设计评估及公众参与 AI 治理。
论文提出UMER框架,通过成对感知判别推理统一多模态嵌入与排序功能。 基于Qwen2-VL-2B/7B模型,在MMEB-V2基准上得分65.5/70.6,超越最强基线1.4/2.0分。 支持从高效嵌入检索到成对感知的灵活预算调整推理。
SLIDERS 是一种基于 LLM 的方法,通过自主编码智能体迭代编写 SQL 协调证据,在 BrowseComp+ 基准上达到 90% 准确率。 该方法解决了 LLM 助手在系统综述中覆盖标准不足的问题,支持跨文档去重和冲突解决。 作者引入了 WikiCeleb100(3.9M tokens)和 FinQ100(36M tokens)两个新基准以评估可扩展性。
论文指出外部信息对LLM推理的缺口修正可能存在过度修正现象,反而损害模型性能。 作者从推理误差角度分析Transformer,揭示修正向量由注意力机制与信息互补性共同决定,并推导出信息在方向和幅度上恰当修正的几何条件。 通过在四种主流LLM和七个推理基准上的实验,验证了理论并支持了一种基于理论指导的信息选择方法。
RMIT-ADM+S 团队使用 ClimbMix 语料库参与 TREC RAG 2026,提交 7 个运行。 最佳运行 brief-hybrid 在 Batch-1 vital coverage 中取得 0.892 的赛道最高分,且 7 个运行中有 6 个超过中位数。
CoReMem 提出成本内化记忆框架,通过前瞻性估值指导编码智能体在未知任务中平衡记忆效用与读写成本。 在 ChainSWE 基准测试中,该框架将 27B 模型的解决率从 21.0% 提升至 25.7%,并减少 17% 步骤与 11% 总缓存感知 token。
研究表明 RAG 系统引用常误标来源,1.2% 至 15.7% 的可引用声明源于参数记忆而非检索上下文。 反事实值替换法能区分来源,但标准自然语言推理验证结果与随机无差异,仅靠信号无法提升溯源诚实度。
提出嵌入门控迭代合并(EGIM)方法,结合嵌入相似度与 LLM 判断以解决高细粒度主题建模中的冗余难题。在专利和法律语料库中,LLM 拒绝了 83% 的嵌入候选,相比基线提升合并主题区分度 25-55% 并保留细分差异。
AstroMemBench 是一个针对航天器具身智能体记忆系统的基准,包含 16 项记忆子挑战、140 个模板和 2240 个实例。 该基准通过确定性环境评估任务完成度、状态变化、安全性和资源使用,涵盖行星表面作业、在轨服务和深空探索等九大任务。 实验显示 Mem0 等在会话重启后优于 RAG,支持航天器具身智能体记忆系统的设计与选型。
提出查询引导的选择性上下文压缩框架 CoMem,在问答和 RULER-NIAH 基准上优于现有方法。 采用对比压缩器学习生成查询敏感且保留上下文的记忆表示,并通过同上下文硬负样本挖掘及双向注意力机制优化信息流。 该框架旨在解决有限记忆预算下长输入推理的效率挑战,代码已开源。
Qwen2.5 小模型(1.5B-14B)经提示词优化可路由推理、检索等能力,14B 路由器下游 token 消耗减少 68.7%。 最小提示下增大容量未一致提升分类性能,提示优化缩小了推理和计算器路由的容量差距,但 RAG 和 Web 搜索仍受益于更高容量。 14B 路由器 BERTScore F1 达 0.8408,接近全能力启用的 0.8418,中位延迟降低 80.5%。
CPIL 提出双阶段 Siamese 框架,利用少量标签构建关系监督,无需额外事实标签。在 11 任务 LLM-AggreFact 基准上,CPIL 使用 2-3% 标注池即达 81.04-81.60 macro-F1,超越紧凑型检测器。该方法已被 IEEE TASLP 2026 接收。
研究团队提出 MindMem,一种受认知心理学启发的记忆框架,能异步整合共享经历并预测用户潜在需求。 在自研基准 MemReal-Bench 上,MindMem 的 SMR 得分达 59.03%,DQA 得分达 82.58%,分别超最强基线 24.19 和 9.19 个百分点。 代码与数据集已公开。
MIGRO 提出了一个解耦且可移植的大语言模型长期记忆系统,将用户交互积累的经验视为跨模型共享的持久状态。该系统通过非对称保真度实现证据的精确保存与近似组织,利用共享语义索引支持检索。在 LoCoMo 匹配状态下,MIGRO 准确率提升 7.3%,私有内存减少 99.3%;在百万 token 的 BEAM 历史上,私有存储平均减少 57.5%。代码已开源。
提出 QDRAG 框架,通过查询分解和重排序消除多跳推理中的过度引用。 引入 QD-C 和 QD-R 两种零样本分解方法,发现针对 QD 任务的微调比直接微调下游 RAGQ 任务具有更好的泛化性。 实验表明 QDRAG 在四个多模态 QA 基准上显著优于基线,甚至超过 Gemini-Pro。
该研究提出基于NVIDIA Tesla T4硬件的多模态RAG优化框架,将7B模型VRAM占用降至8.37 GB,实现12-16 GB显卡部署。 采用NF4量化保持长上下文稳定性(81 ms/tok延迟),结合Florence-2视觉集成仅增加430 MB VRAM开销;结构化提示词使延迟降低47%,数学推理准确率从35.0%恢复至92.0%。
研究首次将基于图形的检索增强生成(GraphRAG)应用于原始地震目录表格数据,针对水库邻域群震、2019年 Ridgecrest 序列及2021年玛多Mw7.4余震序列三个独立目录构建了可查询知识图谱,无需人工数据结构化。
研究提出加权马修斯相关系数(WMCC)以解决 LLM 文献筛选评估中不平衡数据的误导性问题,并发布了实践建议 LLM4SCREENLIT。 在包含 9 个 LLM 和 34,528 篇文章的大型软件工程再分析中,基于 WMCC 的最佳模型仅丢失 5.8% 的相关证据,远优于 Accuracy 最佳模型的 63.3% 丢失率。
研究团队提出名为 KG-Guard 的轻量级图框架,将 LLM 视为黑盒以检测知识库问答(KBQA)中的答案节点幻觉。该框架利用图编码器生成验证导向的节点表示,并通过小型 MLP 进行分类,以识别依赖参数化知识而非图证据的回答。
提出任务感知的血糖预测评估框架,结合低血糖预警与胰岛素剂量支持双场景。 框架使用三个临床队列数据计算事件级召回率与误报率,并基于UVA/Padova模拟器评估干预效应预测能力。 结果显示模型在整体预测准确时,可能仍在关键高风险场景失效,揭示了预测精度与临床实用性间的差距。
研究者提出CS-54k语料库,基于14,474篇开放许可AI论文构建了5.4万对结构化问答数据。 该语料库覆盖8类论文组件,衍生出评测基准CS-4k和后训练语料CS-50k。 在CS-50k上进行后训练显著提升了Qwen2.5-7B-Instruct在CS-4k上的表现。
summary_zh: CRINN 提出将近似最近邻搜索优化视为强化学习问题,以执行速度为奖励信号,生成速度更快且保持精度的实现。 该方法在六个基准数据集上测试,优于三个 SOTA 开源算法,在 SIFT-128-Euclidean 等两个数据集上并列第一。
summary_zh: CaST 在 100 万项数据集上实现约束向量搜索的最优早期终止,成本至多为类最优的 1.132 倍。 该算法通过动态规划计算嵌套阶梯规则,在 0.03 至 0.10 风险水平下保持 95% 联合置信度。
REWEAVE 是一种在线索引维护方法,通过从查询反馈中学习边效用并定期重新布线,以优化 HNSW 索引对偏斜或变化工作负载的适配性。 在最多 1 亿向量的测试中,其查询吞吐量最高达 NGFix 的 3.3 倍,且在 Amazon-ESCI 数据集上通过查询漂移适应将流式 recall@100 从 0.745 提升至 0.979。
AutoOntic 管道通过规范化实体类型、归纳层级结构和挖掘约束自动构建本体。 在 Wikidata-TekGen 和 DBpedia-WebNLG 上,超过 90% 的诱导类型与参考类对齐;使用 AutoOntic 构建的知识图谱在 MINE 中实现 88% 检索准确率。 该工具旨在解决缺乏类型层级和域/范围约束的扁平图谱问题,提升图增强生成的检索质量。
LLM 预测系统极易受单篇伪造新闻攻击,74% 至 82% 的对抗性预测会被逆转,前沿模型无法识别虚假信息并会盲目跟随。 两大主流部署系统的检索架构在约 90% 的运行中会捕获伪造文章,且现有检索时防御措施可被单一提示词修改轻易绕过。
提出关系表示构建(RRC)协议,区分模式语义、关联属性及上下文信息,将关系数据库映射为节点与关系描述符。 采用语义所有权原则分配属性,支持关系条件消息传递,兼容现有关系图学习架构。 该框架与关系消息传递、图 Transformer 等近期工作互补,旨在提升 RDL 模型的语义表达能力。
Natera 基于 Amazon Bedrock AgentCore 搭建 SWARM 系统,为实验室设备工单提供自动诊断。swarm-agent 自动产出诊断报告,swarm-hive 支持工程师交互追问,两者共享一个包含 33 项技能的技能库。评估数据显示,平均首次响应时间从 17.4 小时缩短到约 8 分钟,96.2% 的工单可自动给出首轮响应。
AWS 发布方案通过多层防线让企业 Agent 共享知识库时仍按用户权限检索。核心流程为:通过 AWS Cognito 与 Lambda 在访问令牌中注入邮箱。
推荐理由:文章给出多层防线与可部署的CDK堆栈,读者可据此在共享Agent场景中隔离各用户的数据访问权限。
AWS 在 Agent Toolkit 中新增 Amazon Bedrock Managed Knowledge Base 迁移指南,允许编码智能体协助用户将客户管理的知识库自动迁移至托管模式。
AWS Frontier AI Engineering & Services 发布23项生产级可复用资产,覆盖 RAG 流水线与文档处理等,DoorDash 与 Ricoh 等已验证可将开发周期从数月压缩至数周。
使用 Sentence Transformers 进行 token 池化感知训练,使模型在 4 倍存储压缩下 NanoBEIR nDCG@10 保留率从 94.6% 升至 97.8%。 该方法基于 Ward 层次聚类合并相似向量,支持按长度自适应压缩,显著优化多向量模型的存储效率与检索质量。
系统EJAI结合交互地图与证据检索,在21项查询测试中,98.4%的事实性声明获证据支持,33个案例中32个主动说明缺失证据。 其企业高管角色因立场偏向而忽略冲突证据,形成grounding成本。15名参与者在模拟听证会中,部分人发现角色简化或偏见问题。
OpticalRAG 框架将文档渲染为页面图像,经冻结视觉编码器处理并蒸馏为 16 个注入 token,在 LongBench-v2、BAMBOO 和 LooGLE-v2 基准上取得最佳压缩感知准确率。 该框架包含无需对比训练的编码器桥接检索和查询驱动蒸馏模块,使 Qwen2.5-7B-Instruct 基线模型提升 5.17 分,论文已被 NeurIPS 2026 接收。
研究量化了八字分析中 LLM 所需事实层,发现 11 个开源模型直接回答时,60% 以上未答对六十甲日或 1% 以上未答对刑冲。 提供经过过滤的查询事实层后,Qwen3-8B 和 32B 准确率提升至 78%-92%,另 4 个模型达 96%-100%。 表明 LLM 需外部事实层提供计算好的交互关系,而非静态属性或完整列表。