Function-Space Policy Optimization (FSPO) 提升 RLVR 推理性能
新框架 FSPO 结合特权适应与函数空间时间整合,在 5 小时训练预算下取得最高平均准确率。 相比最强基线平均提升约 4%,并将 Olmo3-7B-Instruct 峰值内存从约 70 GB 降至 56 GB。
新框架 FSPO 结合特权适应与函数空间时间整合,在 5 小时训练预算下取得最高平均准确率。 相比最强基线平均提升约 4%,并将 Olmo3-7B-Instruct 峰值内存从约 70 GB 降至 56 GB。
研究在两个基准数据集上评估技能融合策略,发现显式技能表示相比纯文本基线未带来实质性提升。 ESCO 分类判别力有限,技能嵌入出现坍缩,且高文本与技能表示冗余导致增益微弱。 结果挑战了显式技能建模必然利于职业预测的常见假设。
在包含英语、荷兰语和中文的多语言 BabyLM 预训练中,混合训练在 15 种匹配配置中全部优于课程训练,同时多语言表现受语言暴露数量与顺序共同影响。 语言主导型混合训练中的部分配置得分高于均衡配置,且荷兰语主导配置取得最佳整体性能。 该结果表明在当前小规模数据设定下,均衡语言分布并非最高性能方案,同时多语言暴露优于分阶段暴露。
提出 TEX-MEX,首个统一结构与时序相似度的时间序列对比学习方法。 该方法基于编码器识别批次内的相似度,将时序偏移相似窗口拉近、不相近者推远。 在 PPG、EEG、ECG 等多模态任务上实现 SOTA,并开放了 56 万参数 PPG 基础模型,规模约为竞品的 1/50。
AFCS 通过提取原子事实驱动数据合成,在 OLMo-3-7B 和 32B 基座上优于 WRAP 和 Nemotron-CC。 该管线结合结构感知提取与多格式生成,100B-token 中训练使通用基准平均提升 +1.09。 实验在 FineWiki 语料上验证了事实级合成优于片段级和实体级合成。
两项研究显示,两阶段残差学习框架(TSRL)显著降低了代理模型误差。 在原油蒸馏单元数据中,TSRL 将测试均方根误差(RMSE)从 10.3 g/s 降至 4.7 g/s;在工业燃气轮机数据中,涡轮热速率误差从 151 kJ/kWh 降至 105 kJ/kWh。 该框架通过验证剩余量评估局部建模强度,为热力学系统的安全关键操作提供决策支持。
ProD 通过检测并惩罚学生智能体轨迹中的停滞现象,有效缓解小语言模型智能体在长交互中陷入无效循环的问题。 ProD 将教师与学生间的停滞差距编码为自适应边距,在 0.6B 至 8B 参数的 8 个 SLM 上验证,提升了成功率与任务完成效率。 该工作已被 NeurIPS 2026 接收。
W-JEPA 提出自监督框架,利用小波令牌组织惯性运动,提升跨数据集泛化能力。 该模型通过 EMA 目标编码器预测掩码令牌,在 6 项基准测试中,平均 macro-F1 提升 8.7 个百分点。
该方法利用拓扑正则化对齐独立训练的自编码器模型隐空间,消除训练协调需求。 实验表明其显著缩小多个数据集上的互操作性差距,理论上支持几何兼容性。
Spectral-MoE 提出异质逐层专家利用率分配,显著优于统一利用率。在 25% FFN 利用率下,动态分配将 Llama-3-8B 的 WikiText-2 困惑度降低 2.96 点,六任务平均准确率平均提升 3.6 个百分点(50% 利用率下)。
提出 Interlock 框架将长程任务表示为类型化完成图,解决局部正确但任务未完成的问题。 利用 Qwen3.6 在自接受轨迹上微调,提升 AutomationBench 通过率 4.00-4.50 个百分点及 JobBench 加权分。 验证了合成经验在外部任务环境中的训练效用。
研究者提出面向连续流语言模型的强化学习后训练框架,通过引入 Critic 估计中间 token 嵌入价值,绕过非可微解码步骤获取低方差路径梯度。 该 Critic 能随策略变化动态跟踪价值函数,在四项推理任务中,该框架可靠提升模型性能并优于同类基线方法。
提出一种结合 LLM 与文档级话语解析的保结构数据增强框架。 该框架通过识别句对修辞关系并替换为语义连贯且主题偏移的内容,保留原有话语结构。 实验显示该方法在文本摘要和问答任务中通过补充监督信息提升了联合数据训练效果。
研究发现白化预调优是提升分布式 LLM 训练中内部优化器副本扩展性能的关键特性。 基于伪梯度协方差结构和批大小对噪声影响两因素,理论及实证证实 8-96 副本规模下白化内部优化器优于 DP。 随着参数和数据扩展,其相对性能优势持续增强,为高并发 LLM 训练提供有效指导。
研究指出图像自蒸馏中样本重复对下游性能的影响是非平凡的且依赖数据集,现有缩放定律存在局限。 在Maxar、ImageNet等7个数据集上,重复训练较小随机子集有时优于训练更大唯一样本集,验证了数据依赖特性。 论文提出修改版Chinchilla风格缩放定律,显式纳入唯一样本数与重复次数两个因素。
提出利用逆推理LLM处理仅答案数据的自蒸馏技术,将CoT视为隐变量,在GRPO训练饱和后单次离线蒸馏可使Qwen3-0.6B在困难提示下的pass@1提升近一倍。 该方法在Countdown任务中全比例优于拒绝采样自蒸馏,且逆模型作为验证器可将best-of-n选择准确率从0.753提升至0.969。 COLM 2026 Workshop论文展示了逆模型在持续后训练和测试时验证的双重应用价值。
提出Titan-Llama后训练方法,改造预训练注意力模型以支持长上下文高效推理。 该方法采用分层记忆架构,在测试时更新参数,将历史上下文压缩为固定大小的神经记忆模块(NMM)。 在Llama-3.2-1B-Instruct上,显著提升了QuALITY和LongHealth基准测试的准确率,并降低了内存使用。
SiMDex 框架无需改变 VLA 架构或训练流程,通过形态无关动作空间中的三阶段级联筛选出高价值人类视频数据。 该策略证明选择性数据策划在灵巧操作中优于无差别数据混合,提升跨本体泛化效率。
MUTE 通过边缘服务器账本追踪数据影响回声,配合 forget-retain 更新消除数据残留。 该方法在 LIBERO 基准测试中,将遗忘行为再生比例控制在 0.401 以下,优于 0.466 的近期方法。
研究人员提出RAM,一种形态条件化的隐式神经表示,用于快速替代位姿可达性计算,能泛化至未知形态并处理自碰撞。 RAM基于3×10¹⁰样本训练,达到84%平衡准确率,推理速度比生成式基线快三个数量级。 该速度优势延伸至下游任务,使形态与轨迹优化加速一至两个数量级,成果已被CoRL 2026接收。
研究团队发布MosaicMRI,这是迄今最大的开放源原始骨骼肌肉(MSK)MRI数据集,包含3,150个体积和89,830张切片。 数据集涵盖1.5T核心集与0.55T低场集,在体积方向、成像对比度及解剖结构上具备高度多样性。 实验表明,跨解剖结构混合训练比单一解剖结构训练更优,且增加训练数据量可提升磁场强度偏移下的重建性能。
RNAGenScape 提出了一种基于流形 Langevin 动力学的 mRNA 序列生成框架,在三个真实数据集上将中位数预测属性增益提高最高 267%,成功率提升最高 31%。 该方法结合自编码器、去噪自编码器和属性引导优化,在保持生物活力指标的同时,实现了与现有生成方法相当的推理效率。
研究指出,在学习动力学系统时,所选数值积分器的稳定性区域会扭曲识别结果,导致阻尼振荡系统可能被误判为具有“负阻尼”并反转振荡方向。即便数据拟合良好,减小步长或提高显式积分器阶数通常也无法消除该伪影,因为高阶显式方法的稳定性区域延伸至右半复平面。隐式中点法能保留保守或耗散性质,为仅已知系统自治时提供了原则性的积分器选择。
研究提出EgoWAM框架,验证世界动作模型(WAM)在机器人操作中对第一人称人类数据的优于行为克隆的训练效果。 该框架固定策略骨干与动作头,仅改变世界预测目标(像素、DINO、3D运动流)。DINO显著提升分布外泛化能力最高达4倍,3D流使域内性能提升20-30%。
该研究提出 Auto-AEG 管道,通过自动数据构建与模型微调解决开放词汇音频事件定位中的数据稀缺瓶颈。 利用程序合成片段提供冷启动监督,并结合真实音频的多模型伪标签强化学习,显著提升大音频语言模型的时间定位能力。 该方法在 AEGBench 等基准测试中展现出显著的时间定位增益,并泛化至多种留出声源检测任务。
研究发现递归自训练会导致代码LLM性能低于初始水平,且AI自过滤机制会失效。 AI自过滤在初期看似有效,后期会沦为橡皮图章式批准。研究指出,稳定的训练需依赖外部验证而非自审核。
DataEvolver 提出了一种多级自进化系统,可自动构建数据准备流水线。 在七个基准测试中,该系统将下游 LLM 性能平均提升了约 10 分。
针对开放权重 LLM 下游微调风险,研究提出“梯度密封”原则以防止禁忌能力被获取。该方法将相关预激活推至负值区域,利用 ReLU 族激活函数在负区的零或近零导数特性阻断内部路径。 实验表明,相比事后遗忘基线,梯度密封在多个 LLM 家族上展现出更强的下游获取抵抗力,有效提升了预发布保护机制。
PatchKV 提出一种无需训练的框架,通过计算上下文特定的权重补丁,在保持推理成本不变的前提下提升 KV 缓存压缩效果。 该权重补丁基于岭回归以闭式解形式生成,将部分上下文信息编码至模型权重中,使长上下文问答和数学任务在激进压缩预算下性能显著改善。
该研究提出局部演示编辑(LDE)方法,并训练小型模型 Jev-LDE 执行单次编辑操作。Jev-LDE 通过 Keep、Delete 或 Replace 动作修改演示集,无需迭代搜索。该方法在标准分类基准上显著提升 LLM 的上下文学习(ICL)性能,且具备跨基准和模型的迁移能力。
针对多领域知识整合难题,提出 SoFT 微调方法以平衡教师演示学习与模型原有能力。 该方法通过设定最低目标概率并最小化 KL 散度变更来学习演示,利用领域梯度预算控制平衡点。 在混合推理和 Agent 任务中,SoFT 取得了分布内能力获取和分布外泛化的最佳整体性能。
提出量化鲁棒遗忘框架,在 MUSE 和 TOFU 基准测试中实现更抗量化的遗忘效果。 利用曲率准则识别敏感权重,应用敏感度引导噪声正则化以收敛至平滑极小值。 通过仅更新 forget-critical 层平衡遗忘与效用,代码已公开。
在指令微调中,提示词与响应监督的 Token 选择存在耦合效应,现有方法通常独立优化。BRIDGE 方法通过注意力机制路由效用并交替进行预算选择,解决了状态不匹配问题。 在三个模型族和任务域中,BRIDGE 表现最佳,在 Llama-3.2-3B 模型上 MATH 优势随压缩率提升,达到 1.66 个百分点。
RCD 提出一种无训练引导方法,利用预训练扩散模型的自重构误差作为对数密度代理,结合重叠一致性项,将采样导向高密度全局连贯计划。 在 OGBench 的运动、物体操控及像素级观测长时程任务中,RCD 性能持续优于现有方法,有效缓解了模式平均问题。 该文已被 NeurIPS 2026 接收。
TurboEvolve 提出多岛进化框架,在匹配 API 成本预算下通过 Verbalized Sampling 提升样本效率与稳定性。 该框架引入在线调度器自适应调整候选数 K,并采用岛感知初始化聚类种子程序以平衡多样性与精炼。 实验表明,在数学发现与 GPU 内核优化任务中,TurboEvolve 实现了优于基线模型的成本-质量权衡。
提出LatentPress将长文档和对话历史压缩为连续记忆令牌,使冻结解码器直接读取而无需文本重建。该适配器仅需4.2M-26.2M参数(约占解码器0.1%),实现4-16倍压缩;在LongMemEval上7.70倍压缩时准确率达0.504。其优势在于写入速度比文本摘要快约一个数量级(43ms/对话),读取速度比原始上下文快5-9倍。
该研究提出特征方向漂移是模型蒸馏中潜意识学习的核心机制,并验证其通过学生端可识别的偏好差距在微调阶段累积为行为迁移。 受此机制启发,论文设计了探测空间走廊正则化方法,在约束漂移的同时保持任务性能,显著抑制了恶意响应和动物偏好等隐性特征的传递。 实验表明,该方法将恶意响应传输率从29.55%大幅降至6.45%,并以极低的准确率代价在Qwen主要设定中持续压制了动物偏好迁移。
研究提出 DualOPSD 框架,通过在 Qwen3-8B/4B/1.7B 模型上进行联合更新,在三个数学基准测试中将 avg@12 准确率比原有 OPSD 方法提高 9.83 个百分点。
研究团队发布包含 8,800 条合成医患对话的数据集,涵盖 1.3k 小时音频及参考 SOAP 记录,旨在补充长上下文音频推理训练与评估。 该流水线基于开源模型构建,经历人格对话生成、多说话人音频合成及 LLM 生成参考笔记三阶段。 评估发现修复 bug 后,级联系统与端到端模型性能相当,幻觉率分别为 22-24% 与 32%。
利用轻量适配器微调路由器并据此剪枝 MoE 专家,可在保留精度的同时大幅降低资源占用。 在 Mixtral-8×7B-Instruct 上,router-only LoRA 仅训练 0.002% 参数,移除半数专家后 MMLU-Pro 准确率为 27.54%;剪枝使内存减少 49%,每 token 延迟降低 37%。