Training User Simulators with Latent Intrinsic Feedback
研究提出带有内在反馈的用户模拟器,利用真实交互日志训练LLM,证明其提升了模拟真实性和批评行为。 模拟器生成的评价与人类判断相关性优于同尺寸提示基线,并在多轮强化学习中将计算量减少了一半以上。
研究提出带有内在反馈的用户模拟器,利用真实交互日志训练LLM,证明其提升了模拟真实性和批评行为。 模拟器生成的评价与人类判断相关性优于同尺寸提示基线,并在多轮强化学习中将计算量减少了一半以上。
KnowForge 在 M3DocVQA 上实现 F1 47.5,较 M3DocRAG 提升 11.0,且优于单次检索。 系统采用 Qwen3.6-35B-A3B,通过 Locator 与 Deep Reader 角色分离优化。该管线在 M3DocVQA 和 MultiHop-RAG 等基准测试中均达到最优表现。
T$^2$Mem 框架推迟记忆构建至推理阶段,在 LoCoMo 和 LongMemEval 实验中优于多个基线模型。 该框架离线提取轻量级片段元数据,测试时根据查询动态检索和组织信息,显著降低构建开销。 研究证实该机制使记忆构建能动态适应不同查询的信息需求,相关代码已公开。
针对低资源假新闻检测中数据稀缺问题,研究人员提出SharP边界感知文本生成框架。 该框架利用LLM作为工具,通过软硬提示双机制引导生成具有任务相关性的合成样本。 结合边界感知策略和双重目标优化,提升模型在低资源场景下的鲁棒性与泛化能力。
研究对比超球面与欧氏变分自编码器(VAE)在专利文本上的表现,基于 45,000 件美国专利数据。 超球面模型在 top-10 检索中跨类别发现先前技术的比例(18.76%)比欧氏模型(12.34%)高 52%,但与官方分类一致性较低(NMI 0.2392 vs 0.3206)。
KV-Repurpose 是一个基于 vLLM 的开源系统,用于评估超越精确前缀的分段式 KV 缓存复用。 在 Zipfian RAG 负载下,当 20% 请求共享固定前缀且缓存容量为 30 GB 时,KV-Repurpose 的 token 级缓存命中率达 63.9%,远高于前缀缓存的 3.3%,从而降低了 TTFT。
提出 LLM 驱动的流水线将硬件数据手册转化为层级知识图谱,在 20 份文档中实现 98.8% 属性忠实度。 采用分块属性提取与层级路由,相比单次基线 76.1% 的忠实度及 10.5% 的反向覆盖率显著降低遗漏风险。 增强下游硬件设计与验证中工程信息的可靠性,减少因约束遗漏导致的错误决策。
研究人员推出 GeopoliticalQA 基准,基于 415 份开放情报报告构建 5,525 个问答对,涵盖事实、推理及风险类问题。该基准评估了 15 个检索系统和 6 个开源 LLM 在 RAG 任务上的表现。 评测发现中型编码器 bge-m3 在分块检索中匹配更大规模模型并超越商业 API,但推理与风险类问题的答案生成仍具挑战性。
研究团队提出 UxSID 框架,利用 Semantic IDs 和双层注意力策略,实现语义分组共享兴趣记忆,在大规模广告 A/B 测试中带来 0.337% 的收入提升。 该框架通过端到端架构平衡计算效率与语义感知,避免了项目特定模型的高昂成本,在超长用户序列建模中取得最先进的性能表现。
COFFEQA 提出反事实引导的少样本蒸馏策略,通过 CFD 指标验证反事实,在生成式问答中优于纯事实基线。 实验覆盖 5 个域内与 3 个域外 QA 基准,使用 T5 和 Qwen2.5 模型族。 在 TriviaQA 上,T5 设置 32 个少样本对中,平均 EM 提升 8.77 分,平均 F1 提升 9.98 分。
FORTE 是一个模型无关的生产框架,用于在工业推荐系统中发现、验证并移除特征,其高效扰动实现支持每日特征评估。 框架通过分组消融评估低秩特征交互,并利用谱系追踪识别下游模型以释放全部效率收益。 在大规模排序模型上,应用 FORTE 移除 8 个候选特征,使可训练参数减少 29.9%,服务吞吐量提升 19.8-25.5%,年度训练成本降低数十万美元。
Monarch-MoE 引入块对角因子替代 LoRA 专家中的稠密因子,解决多模态持续指令微调中的灾难性遗忘。在 LLaVA-1.5-7B 上,该方法将适配器参数量分别减少约 75% 和 50%,首任务遗忘降至 0.52 和 0.10 个百分点。该技术可在单张 24 GB RTX 4090 上运行,使结构化专家在内存受限硬件上具备实际可用性。
JulianFlux 开源 Python 核心,将 768D 嵌入压缩至 128D 流形,利用修改后的洛伦兹力方程替代欧氏距离进行数据检索与路由。 通过 NLI 逻辑门分配拓扑电荷以物理排斥幻觉数据,并结合远达定律对过时信息进行时间衰减,在大规模对抗测试中实现 0.0% 幻觉率。 该架构旨在解决静态向量数据库导致的逻辑循环问题,为企业提供亚毫秒级 p99 延迟的连续场推理基础设施。
Corbenic 开源并上架 Galahad,一个嵌入 llama.cpp、vLLM 和 SGLang 的 AI 记忆层。核心组件 Taliesin 将模型 KV 缓存保存到磁盘并恢复,官方称 99.6% 的 token 来自内存复用时命中;文档检索组件 Blaise 保留字节级原文,实测在 100 题中全部答对,而 RAGFlow 同题只有 77 题。
推荐理由:作者给出了 KV 缓存复用、50M token 窗口和多租户共享的实测数字,读者可以据此评估它在现有推理栈里的接入成本与收益。
Postman 在其面向 4000 万开发者的产品中上线 Agent Mode,使用 Amazon Bedrock 的 Claude 模型提供 API 测试、文档、发现和实现的 AI 原生工作流。
推荐理由:原文给出了 Agent Mode 的架构模式和 Bedrock 部署方式,读者可以据此判断成熟产品接入智能体时的上下文预算与路由缓存设计。
Zenith 团队认为企业级 AI Agent 的上下文检索不应追求单一最优方法,而应构建路由器,根据问题类型分发至不同检索路径。作者指出在 MultiHop-RAG 基准测试中,同等 token 预算下普通 RAG 与 GraphRAG 准确率仅差 0.32%,证明图检索并非多跳问题的万能解。
作者利用 ChatGPT 和 Luna 分析文学偏好,生成了5本未读且符合口味的书籍推荐。 原型应用通过 LLM 对话建立持久偏好模型,支持本地存储和去标识化数据以保护隐私。
Show HN 推出 MindMesh,这是一款旨在通过连接应用并排序当前最需关注事项来帮助用户行动的 AI 工作空间。 它支持连接 Gmail、Slack 和 Jira 等应用,通过“注意力看板”将任务分为立即处理、稍后处理和静默处理三类,并采用本地优先的加密架构确保数据隐私。 该软件专为项目经理、工程师等产品构建者设计,强调在 AI 自动化中保留用户的人工审批控制权。
研究表明,在 Qwen3-8B 模型中,通过精心措辞的无答案事件将 donor-aligned 恢复率从 6% 提升至 51%。 被动收割长期对话中的自然提及未产生检测优势,紧凑状态得以保留,但更大负载向随机水平衰减。 该结果指出,移除源事件且准确率无损失并不证明源事件是多余的。
PT-RAG 模块通过可微检索增强生成提升细胞基因扰动响应预测效果,已获 NeurIPS 2026 主会录用。 其采用两阶段检索机制,基于 GenePT 语义检索结合 Gumbel-Softmax 选择器,在 scGPT 交叉细胞类型任务中将 2-Wasserstein 距离相对降低 5.9%。 代码已开源可复现,显著改善分布相似性与预测质量,服务于功能基因组学与药物发现。
该框架整合句法结构、语义多样性与分布表征进行核心子集筛选,并能自动适应不同语料库噪声水平。 验证了数据中心 AI 领域中“少即是多”的假设。
研究指出上下文并未消除大语言模型的记忆提取风险,而是改变了可提取样本集合。 实验在三个开源指令微调模型上配对测量了不同相关性检索上下文下的后缀概率,发现记忆提取包含对上下文鲁棒的核心和对边缘样本敏感的边界。 该发现表明RAG虽能抑制部分边界案例但无法消除鲁棒可提取样本,上下文启用的可提取性仍具安全意义。
RIT-RAG 结合内容检索与结构导航,在金融、科学及客服基准测试中取得最高答案准确率。 该方法离线从目录构建文档树,查询时利用检索块位置诱导子树,由 LLM Agent 选择性读取节点并在必要时重构查询。 在包含 284 万网页的 EntQABench 上,RIT-RAG 相比最强基线提升 6.8 至 11.4 个百分点。
RAGenome 首个检索式 gLM,预训练上下文比现有 MSA 模型长 100 倍,统一演化建模与长程交互。 基于 100 种脊椎动物全基因组对齐训练,基因发现性能从 0.45 提升至 0.60,致病突变优先级任务保持竞争力。 以更低训练成本提供竞争性 gLM 性能,代码已开源。
GenUI-Harness 提出多智能体架构,通过 GUI Coder 动态生成前端代码以解决自然语言交互瓶颈。 采用 Dynamic UX 和 Reward Auditor 优化强化学习训练,UI-TAU Bench 基准测试中 Pass@3 比 smolagents 高 4.48 个百分点。
共享学习率对比不同可训练参数量的微调方法会制造假象,掩盖真实效果。 修正此偏差后,冻结解码器并仅微调编码器的方案可节省3倍可训练参数及优化器状态内存。 该方法作为低内存替代方案,用于在训练时改造低秩KV缓存压缩。
GLM-RAG 提出基于图语言模型(GLM)的检索器,在两个多跳基准上达到 SOTA,域外泛化性能优于 GNN 和向量搜索。 微调 GLM 检索器在域外数据上表现更佳;GNN 检索器通过高效训练实现更高图覆盖率;向量搜索基线在单跳数据集上占优。 论文已被 AACL-IJCNLP 2026 接收,证实了 GLM 在结合图结构与语义信息于 RAG 任务中的有效性。
SERL-SQL通过选择性执行基础事后蒸馏,在多轮Text-to-SQL智能体上实现76.56% BIRD-Dev与89.92% Spider-Test执行准确率。 框架利用教师模型重评分学生动作,将执行反馈转化为有界掩码权重,重新加权GRPO优势值以进行局部信用分配。 实验表明其奖励选择策略接近最佳N候选上界,优于基于一致性的选择方法,代码即将开源。
MemTrace 提出一种框架,将记忆流水线转化为可执行的记忆演化图,用于追踪 LLM 记忆系统中的错误。 该研究构建 MemTraceBench,基于 Long-Context、RAG、Mem0 和 EverMemOS 等系统分析记忆失败模式,并利用归因信号引导提示词优化,使下游任务性能提升最多 7.62 个百分点。
该基准包含 711 个 PDF 文档、1897 个问题,采用严格归因准确率指标,要求答案与证据区域同时正确。 CiteVQA 揭示了仅评估答案的盲区,为可信文档智能提供了衡量工具。
NativeScope 提出先定范围再排序的方法,在 1,024-token 预算下文档单元召回率达 89.28%。 该方法相比整体 Dense RAG 提升 42.75 个百分点,内存召回率提升 22.00 个百分点。 其性能依赖锚点可靠性,自动 Top-1 锚点时内存召回率降至 35.50%。
研究人员提出模糊可验证任务框架,发布基准套件 AmbiTab 统一六个数据集,以区分任务消歧与解决方案生成。 框架将代理分解为询问策略和解决策略,利用无裁判泄漏诊断评估信息泄露,并通过强化学习优化询问策略。 训练后的询问策略在六个数据集的消歧指标上均有提升,五个数据集的任务成功率也得到改善。
提出 QGMem 框架,将长对话历史转化为事件索引的原子记忆单元,并在查询时构建紧凑工作记忆图。 通过混合检索获取互补候选记忆,利用查询感知重排序激活相关单元,并将局部图编码为图 token 辅助 LLM 推理。 在 6 个基准测试中,QGMem 在检索、多跳证据组合、冲突解决及超长对话推理上均取得一致提升,且推理成本适中。
该研究系统评估了 LLM 在软件系统中的七种架构形态,指出市场标签如 Copilot 和 Agent 确实对应不同的架构设计,而非纯粹的品牌营销。 在 22 个示例系统的分析中,Copilot 被定义为在逐步用户确认下操作宿主应用的“路由-工作者”架构,而 Agent 则对应 AI 规划多步执行且用户仅见结果的架构,四大供应商的编码智能体均采用共享子智能体的“推理-行动”循环。
DPPM 提出双路径参数化记忆架构,在 PersonaMem-v2 达到 54.22%,PrefEval 达到 86.79%。 该模型通过 Evidence 路径池化交互历史保留早期证据,Delta 路径顺序更新关联状态捕捉变化,融合后生成 LoRA 适配器。 这种设计支持跨会话个性化参数化记忆,在多个骨干模型上表现优于基线方法。
引入CogMem认知记忆架构,采用PEC²F图模式区分来源归属的Claim节点与无归属的Fact/Event节点。 通过增量转换对话轮次为带溯源的图记录,并结合4种确定性图算子(锚定、遍历、交集、证据接地)实现查询相关上下文重构。 在LoCoMo和LongMemEval基准测试中表现强劲,尤其在多跳、时序和知识更新任务上优势明显。
研究提出 Gated Memory 框架,将记忆形成确立为生产系统的关键瓶颈,通过在对话与存储间插入准入门控解决上下文信号丢失问题。 在 LoCoMo-10 基准测试中,该方法实现 LLM 评估准确率相对提升 2.6%,证明了记忆形成质量对性能的可测量影响。
RAG-Stress 协议通过固定问题和参考答案,编辑证据中的断言以支持错误答案,并交叉测试两种源优先级策略与三种答案位置,以评估检索增强生成中证据依赖的极限。
基于 35 个专科 8 个月内的 127,833 条真实查询分析显示,当前基准测试仅覆盖 31% 的实际任务组合,且多数基准未包含文档记录请求。 研究构建了临床 AI 基准图谱,发现前沿模型评测基准与实际临床工作相似度低于均匀分布,无法准确预测实际部署性能。 这表明基准分数难以反映临床 AI 在实际工作负载中的表现,评估体系需重新匹配真实的临床使用场景。
该测试集包含 3396 条基于纽约州上诉法院判决的断言,零样本评估显示模型在检测直接矛盾时优于缺失支持,但面对看似合理的伪造引用时表现最差,最高准确率仅 0.97。 该基准为法律 RAG 系统的断言级事实核查提供了实用评估工具。