多轮 LLM 认知污染中的表观政策分歧:一项协议梯度研究
研究 GPT-5.4 Mini、Gemini-3.1 Flash-Lite 和 GLM-4.5-Air 在多轮对话中对虚假前提的采纳差异。 通过 22,500 轮测试,GPT-5.4 Mini 零采纳;Gemini-3.1 Flash-Lite 采纳率从 0.1% 升至 94.0%;GLM-4.5-Air 恢复率达 94.5%。 完整评估框架已作为开源制品发布。
研究 GPT-5.4 Mini、Gemini-3.1 Flash-Lite 和 GLM-4.5-Air 在多轮对话中对虚假前提的采纳差异。 通过 22,500 轮测试,GPT-5.4 Mini 零采纳;Gemini-3.1 Flash-Lite 采纳率从 0.1% 升至 94.0%;GLM-4.5-Air 恢复率达 94.5%。 完整评估框架已作为开源制品发布。
该研究提出 PersonaWeaver,通过将世界观构建与行为规范解耦,利用人工策划的道德立场库和对话反应库,突破 LLM 默认的同质化行为模式。 在十个现实与幻想场景及三个 LLM 上,该方法生成更广的道德和交互反应分布,并在人际语言、响应长度和情感上实现多样化,减少刻板原型组合。 代码已开源,论文被 1st PANDORA Workshop 接收。
HSP 自博弈框架通过演化的生成器自举强化检测器,提升小模型识别忠实性幻觉的能力。 该框架将检测器微调为奖励模型,用 RLAIF 训练生成器产生难检幻觉;再基于合成数据通过规则强化学习优化检测器。 实验表明该方法使小 LLM 在 RAGTruth 和 LLM-AggreFact 基准上达到或超越先进 LLM 性能。
针对在线 RL 微调中的行为归因问题,研究者开源了评测框架 BehaviorTrace。在 Qwen2.5-1.5B 模型测试中,仅按梯度大小排序即可达到 4.2-4.5 倍随机水平,且流畅度预测效果优于所有梯度方法。
针对日中无词边界问题,团队提出无训练、无二次推理的 CTC 无边界偏置解码器。 基于字符级 Aho-Corasick 自动机,引入深度自适应门控与阅读空间匹配机制。 在 Aishell-1 R1 子集召回率达 66.5%(优于 64% 基线),并发布首个日语偏置基准。
CoTrace 是一种感知运行环境(harness)的数据配方,通过轨迹路由与匹配提升终端智能体训练效果。在 Qwen3.5-9B 模型上,CoTrace 使 SFT 解决任务数从 78 增至 88,在线强化学习变体达到 90。
Alice 是面向教育领域的大规模德语自动简答题评分(ASAS)基准,包含学习表现(Alice-LP)、知识要素(Alice-KE)和技能(Alice-SK)三个子任务。 该基准将评分量规转化为检索任务,并测试了从编码器到轻量级 LLM 及零样本提示的效果。 实验表明 LLM 在零样本下难以准确评分知识要素与技能,但评分量规文本对 Alice-KE 和 Alice-SK 有帮助。
提出基于损失引导多专家 GAN 的手语视频合成框架,通过三个专用判别器指导生成器分支实现隐式特征专业化。 该框架采用双路径卷积 - Transformer 设计,1.3B 参数变体在 156GB 数据集上达到 30.72 PSNR 和 0.9650 SSIM,推理显存仅需 8GB。 该技术方案已在 2025 年香港前沿科技峰会上展示,可实现听障人士手语视频的实时生成。
ModPack 是一款模块化遥操作系统,集成了自包含式穿戴“背包”,支持关节级遥操作、移动操作和主动感知等即插即用模块。 该系统在两个不同机器人平台上验证了其灵活性,所收集数据质量优于无机器人方案,并已开源完整的硬件设计和软件栈以支持未来研究。
ReViV 是首个统一框架,能直接从单目 RGB 视频提取观众与场景的动态 4D 重建。 采用 Masked Generative Egocentric Transformer,前向架构同步重建运动、深度及相机轨迹,避免依赖辅助输入。 该工作已被 ECCV 2026 接收,代码与模型已完全开源。
LoopFM 提出利用基础模型(FM)中间嵌入作为输入特征,替代传统知识蒸馏的单标量传输,在 TaobaoAd 基准上实现 6% 以上 AUC 提升。 在数十亿样本及万亿参数 FM 的工业级系统中,LoopFM 在 KD 基础上使知识传输比例翻倍,分别带来 +0.5%、+1.03% 和 +1.22% 的转化率提升。
APCD 是一种无需重训练的多路径对比解码框架,在 4 种 LLM 骨干和 8 个基准测试中持续优于现有推理时基线的事实准确率。 该框架包含熵驱动路径扩展和分歧感知路径对比两个核心组件,分别在高不确定性点进行自适应扩展,并根据分布分歧动态调节并行路径间的对比交互。 实验结果验证了其在通用和医学问答任务中的鲁棒性与泛化能力,代码已公开,适用于高风险领域的可靠 LLM 部署。
该综述系统分析了生成式 AI 在实现 L5 级自动驾驶中的核心作用。文章涵盖了 VAE、GAN、扩散模型和 LLM 的技术原理,并重点映射了图像、LiDAR、轨迹及占据栅格的生成应用。它进一步讨论了合成数据、端到端策略及数字孪生系统的实际价值,最后提出了在泛化、评估安全、法规及伦理方面的研究路径与挑战。
研究指出 LLM 智能体通过技能演化保留过往经验时,会将不安全流程写入技能库,导致后续良性任务重复造成伤害。 在包含 525 项任务的 SkillMisevo-Bench 测试中,21 种智能体与演化方法的组合全部生成了不安全技能,其中 15 种将危害带入了新会话。
提出 IGRPO 框架,通过中间状态信息增益动态分配计算预算,优化多轮搜索智能体的强化学习过程。 实验表明,IGRPO 在 7 个搜索增强问答基准上,使 3B 和 7B 模型在相同 Rollout 预算下平均准确率优于强基线。 相关代码已开源。
为解决 RLVR 中强新颖性激励导致模型质量下降的问题,该研究提出 Exploration-Distillation(ExpDis)框架。 该框架通过“探索-蒸馏”交替训练解耦探索与优化,在 7 个数学推理基准和 2 个模型族上,ExpDis 在相同墙钟时间预算下优于 DAPO。 其 pass@k 性能提升表明,该模型能生成更多样化的正确解题路径。
一项研究表明,针对大语言模型的恶意微调可能破坏其拒绝不当请求的能力,因此提出了一种名为 SLDR 的后置微调防御框架。SLDR 识别出对安全性敏感度呈符号性的层,并仅在最大和最小敏感度层上训练 LoRA 恢复适配器,结合基于表示的动态路由推断,该适配器仅对恶意查询生效。在四个模型架构、五个下游任务和四个有害性基准上的实验显示,SLDR 显著降低了有害输出且保留了下游效用。
QuSema 是一款用于检测量子库静默缺陷的自主测试智能体,在包含 20 个历史静默缺陷的基准测试中,其平均缺陷重定位数量超过 Claude Code 和 Codex。
提出 CoNN-AL 框架,将基于流的主动学习结合至协同去噪自编码器,针对部分逆向设计问题优化标签使用效率。 在包含 90 万设计的汽车玻璃数据集上,仅用 2 万标签即达到 0.967-0.982 的 R-squared,比随机采样节省 30-40% 标签。 该研究同时公开了数据集,以支持未来数据驱动设计的研究。
针对边缘设备LLM智能体面临的人格-逻辑干扰问题,提出AO-DA架构,将逻辑推理(What)与人格表达(How)分离,使用单个INT4基础模型配合可热切换的LoRA适配器。
JevNexus 结合类型化成对决策与证据融合,仅在置信度低时调用列表级精排,在561个案例上将平均延迟从123.452秒降至15.929秒。 其 dataset-macro MRR 为 0.930,Hits@1 为 0.909,且列表级精排仅在 5.665% 的情况下被触发。 代码和实验产物已公开,该方法避免了无差别精排带来的性能退化。
summary_zh: Iris-3B 30 亿参数像素空间文本生成图像模型未能在单目深度估计与 4 倍 DIV2K 图像恢复任务中显著超越 FLUX.2 Klein 潜在模型。
研究人员推出包含 194 个问题的 ArcticQA 数据集及 ArcticAbstain 配对基准,用于评估大语言模型在极地科学多选题中的拒答敏感度。该基准对比了正确答案存在与缺失两种条件,在模型缺失正确答案时平均拒答率提升 5.05 个百分点。
研究者提出通用物理 AI 数据策展工具 Kuration SDK,发现 FVD 等指标与游戏可玩性不匹配,证实存在“虚拟至现实差距”。 该工具在 CounterStrike 游戏数据实验中,通过分析诊断属性,揭示了两个世界模型表现差异的根本原因,而仅靠 LPIPS 和 FVD 分数无法解释此现象。
推出开源框架 Tokka-Bench,使用 5 项互补指标评估 tokenizer 在 100 种自然语言(30+ 文字系统)和 20 种编程语言上的表现。
Open-MMUnlearning 是一个开源可扩展框架,整合了目标模型准备、多模态数据处理、遗忘和评估,支持五个基准测试、八种 MLLM 和十二种遗忘方法。在十种代表性方法对比中,GD 和 MIP-Editor 并列最高总分:GD 在遗忘质量(Forget Quality)上得分最高,MIP-Editor 在保留效用(Model Utility)上表现更优。
研究团队推出 CADFather 系统,利用自主智能体协调互补工具,从 3D 网格中恢复可编辑的参数化 CAD 程序。 该系统使用预训练视觉语言助手评估渲染图像并决策调用学习型或算法型工具,通过数值优化 refine 现有程序参数。 在 DeepCAD、Fusion360、MCB 及 CADENA-Bench 等基准上测试了重建质量与执行有效性。
该方法通过在解码阶段恢复边界细节与语义证据的信息交换,提升了乳腺超声联合分割与分类性能。 在 BUSI 数据集上达到 74.19% IoU 和 90.60% 准确率,在 BUSI-WHU 上达到 86.40% IoU 和 95.00% 准确率。 消融实验表明多尺度上下文与跨任务交换结合可带来 6.76 IoU 提升,自适应混合使 AUC 从 94.41% 提升至 97.31%。
Deep Ensemble取代高斯过程用于标量场重构中的信息路径规划,在油spill模拟实验中,正常化重构误差降低83%。 该方法使用5种策略(ε-Greedy、Value Greedy等)共享Deep Ensemble骨干网络,并分析了不确定性质量对规划算法选择的影响。
SDFlow 提出了一种非自回归时间序列生成框架,在冻结 VQ 潜空间中通过流匹配实现并行生成。 该框架利用全局传输映射消除曝光偏差,并通过低秩流形分解缓解 VQ token 空间的高维性问题。 实验表明 SDFlow 在长序列生成中显著提升判别分数、降低 Context-FID,且推理速度优于自回归基线。
该研究提出 Selective-RL 方法,通过隔离并保留强化学习阶段的显著主导方向来迁移视觉语言模型推理能力。该方法在 15 组模型对比中,有 12 组优于全量更新插值,在 Qwen 接收端上 MathVision 成绩提升 8.55 个百分点。
提出 Cleave 机器学习编译器,通过符号解耦将代数变换与算子调度分离,生成比最佳基线快 2.8 倍(平均 1.6 倍)的内核。 利用符号形状实现廉价等价检查,并通过新的 Split 算子并行化归约维度;平均编译时间比 Mirage 减少 5.9 倍。 动态工作负载测试中,相比 FlashInfer 手写 FA2 和 FA3 后端,分别实现 1.4 倍和 1.7 倍几何平均加速。
针对大规模MoE模型分布式训练中的内存瓶颈,研究团队提出名为RelayMoE的基于环的MoE执行模型。 该模型通过本地计算避免构建完整的top-k扩展调度缓冲区,并依据通信量选择专家或token路由,实现传输与计算的重叠。 在30B至57B生产级MoE模型的实验中,RelayMoE相比Megatron-LM实现平均2倍加速,在相同显存预算下最大吞吐量提升2.02倍,可训练序列长度延长2.85倍。
研究团队提出 nanoMuse,一个基于 GPL-3.0 的开源个人智能体框架,旨在作为 Meta Muse 的开源对应物。该系统允许用户在自有设备(手机和电脑)上运行单一 Agent,通过中继器共享对话,所有操作经 Sentinel 验证,记忆以可读文件形式存储,且模型由用户自主选择。
推荐理由:文章基于 Meta Muse 公开记录解析个人智能体架构,并给出 nanoMuse 开源实现与评估路线,为跨设备 Agent 开发提供可复用的工程参考。
提出量子纠缠多模态融合网络(QEMFN),在COCO-5k和Flickr30k上优于经典融合基线。 采用角度参数化量子状态、模内及跨模纠缠电路,在冻结CLIP骨干和匹配参数预算下完成推理。 未声称量子计算优势,贡献为可控实证与量子中心评估,确认可在现有超导设备上执行。
针对完整十英雄 MOBA 游戏构建结构化多智能体世界模型,通过 1,400 个 tick 的想象轨迹训练策略,并在真实游戏中验证性能。 该策略在 600 场未用于决策的随机种子真实对局中,作为 radiant 阵营胜率 70.2%,较单独梦境训练的 0% 和循环前的 33.7% 显著提升,而 dire 阵营胜率为 0%。
研究提出 Continuous Memory Machine (CMM),一种采用矩阵值短长期记忆状态的循环架构,在算法、上下文学习和循环推理任务中性能超越广泛基线。
该研究指出,LLM 内部特征对概念的追踪及对行为的引导并不等同于模型在计算中真正使用该特征。研究提出一种实证契约,通过“安装”与“移除”测试来评估特征在自然输入值下的实际作用。
MemMux 是一款本地运行时,通过将资源治理转化为可检查信号,解决了并行编码智能体集群的内存归属与回收难题。 在 Linux 环境下,MemMux 将 10 个智能体控制在 7.5 GiB 内存预算内实现零 swap,并 100% 回收终止智能体进程及检测逃逸子进程。 其 1 Hz 归属扫描在 10 个智能体场景下 CPU 开销为 2.7%,已开源发布引擎、基准测试及复现工具。
Microsoft Research Asia 团队开源了 Agent Lightning v1.0,这是一个约3500行的轻量级Agentic强化学习框架,旨在让部署环境中的真实智能体脚手架直接参与RL训练,而无需在训练框架内重新实现。
推荐理由:该框架将RL训练与部署中的真实智能体脚手架直接结合,为开发者提供了一套可在真实环境中复现的智能体训练流程。