GORMPO:一种生成式 OOD 正则化模型基策略优化算法
论文提出 GORMPO,一种利用生成式密度建模将策略更新限制在高密度区域的离线强化学习算法,已被 NeurIPS 2026 接收。 该算法旨在通过密度估计避免稀疏状态-动作空间中的分布外(OOD)动作,并提供了关于密度估计误差与性能差距的理论保证。 实证结果显示 GORMPO 在真实医疗数据集上优于最先进临床 RL 模型,且在离线 RL 基准测试中表现优于最先进离线 RL 模型。
论文提出 GORMPO,一种利用生成式密度建模将策略更新限制在高密度区域的离线强化学习算法,已被 NeurIPS 2026 接收。 该算法旨在通过密度估计避免稀疏状态-动作空间中的分布外(OOD)动作,并提供了关于密度估计误差与性能差距的理论保证。 实证结果显示 GORMPO 在真实医疗数据集上优于最先进临床 RL 模型,且在离线 RL 基准测试中表现优于最先进离线 RL 模型。
FISolver 结合反向生成与强化学习,在复杂基准测试中显著优于大型数学 LLM 及 Mathematica。 该系统提出 Backward Generation 算法构建数据集,并采用 Levenshtein Distance 奖励函数进行微调。 实验表明其在更低计算成本下实现自动化数学发现的新范式。
LAPO 提出无 KL 与 critic 的后训练框架,通过在 GRPO 中对策略与参考模型 logits 进行平均作为隐式正则化,稳定 rollout 轨迹。该方法在 Qwen2.5-Instruct 1.5B、3B、7B 上验证,MATH 任务准确率较标准 KL-GRPO 提升 7%-15%。混合教师策略可蒸馏回单学生网络,恢复标准 1× 推理延迟。
TGPO 是一种在大策略分歧设置下依然有效的在策略推理蒸馏方法,旨在解决现有基于 reverse KL (RKL) 的 OPD 方法在教师-学生策略分歧较大时失效的问题。
Pion 引入基于正交等价变换的谱保持优化器,通过左右正交变换更新权重矩阵并保持奇异值不变。 该优化器固定谱范数并调节几何结构,论文推导更新规则并分析收敛行为,实证结果显示其在 LLM 预训练和微调中表现稳定且具竞争力。 工作已发表于 NeurIPS 2026,v2 版本增加了基于 msign 的 Pion 及额外实验。
研究人员提出一种感知决策的共形框架,通过数据驱动超平面参数化多面体不确定集。 该框架直接最小化诱导的鲁棒损失并保留统计有效性,通过独立数据集的重校准修正数据依赖选择,捕捉与决策目标对齐的方向性和各向异性不确定性。 该方法在统计有效性与决策最优性之间架起桥梁,为数据驱动的鲁棒优化提供了有原则的框架。
研究提出 LT-MKT 方法,通过整合认知负荷与知识转移提升多域知识追踪准确性。在真实数据集上,该方法实现了最先进的预测性能。
该研究构建了包含 6.4 million tokens 的 Solana 数据集,利用经典机器学习模型在交易启动 5 分钟内检测 Rug Pull。 分析显示绝大多数 Memecoin 在发射 1 小时内出现欺诈特征,且 PumpFun 与 Raydium 跨平台数据融合有效降低领域偏移。 该研究为高吞吐量链上的 DeFi 欺诈防范提供了实用框架。
构建了包含 4,027 道题目、源自 836 篇 arXiv 论文的无线数学推理基准 WirelessMathBench-XL。 引入 reverse-probe n-gram 审计机制,利用 12.9 B RedPajama-arXiv 13-grams 确认 95.7% 题目无重叠。 前沿模型准确率介于 86.5%-91.3% 之间,GRPO 训练使 7B 模型表现提升 25.1 pp。
Subliminal learning is mediated by a single steering vector added to model activations. Across two open-source models。
该研究通过生命周期评估方法,量化了由 Kyutai 开发的 7B 参数语音文本基础模型 Moshi 在研发全过程中的环境影响。 研究首次深入剖析了计算密集型多模态大语言模型研发的解剖结构,具体量化了用于模型特定组件、训练阶段、早期实验、失败运行、调试及消融研究的 GPU 时间投入,并统计了数据中心硬件生产与使用关联的能源和水消耗、温室气体排放及矿物资源消耗。
VR-Adam-SHANG 通过结合 STORM 递归估计、Adam 预条件及 SHANG 加速插值,在光滑随机凸优化中每轮至多使用两次随机梯度评估,避免全梯度刷新。
物理信息神经网络(PINN)通过引入控制方程和边界条件,仅使用20至1000个标记状态即可实现准确预测。 研究提出分层损失加权H-PINN及其梯度感知扩展HO-PINN,在热方程和两相流基准测试中,至少一种PINN变体在20和50标签下取得最高平均主目标R²。 结果证实已知物理规律能在极高拟合成本下,支持极少观测数据下的准确神经替代预测。
提出整合教育情境洞察的可计算师生交互模型,评估模拟课堂中的多种教学策略。 包含双向能动性的共同适应策略优于单方向干预,提升了各类学习成果。 模型生成假设的环境具有自适应能力,为构建公平且动态适应学习者需求的人工智能教育系统提供基础。
使用 FP4 预训练比 BF16 需多 1.32倍至 1.52倍 曝光次数 才能匹配罕见事实 召回率,而验证损失仅差 0.5%至 2%。 零均值梯度噪声 复现 反向传播 量化 成本,且 噪声 仅注入 Adam 二阶动量估计 时 成本 随 训练 结束 而 减弱。 建议 在 评估 低精度 配方 时 同步 测量 罕见事实 获取 指标,而非 仅依赖 损失曲线。
提出 TEA-Prompt 方法,通过行为锚定实现无重放持续学习,在 CIFAR-100 等基准上取得 SOTA 精度且遗忘显著降低。 该方法使用仅 0.38M 参数,结合 token 评估模块和注意力行为锚定损失,无需存储旧图像即可保护旧知识。 论文已被 WACV 2027 接收,代码公开可用。
UniHam 是一个包含 10 万多个全自旋-轨道耦合(SOC)哈密顿量的数据集,覆盖 72 种元素。 基准测试对比了 SOTA 模型,揭示 SOC 和元素依赖性失效模式,强调频谱级评估对下游性质预测的必要性。 该基准可用于加速量子材料基础模型的比较与开发。
该研究提出一种通用方法,通过构建局部张量单omial字典并回归系数,自动发现可替代反向传播的符号化局部学习规则。方法适用于任意深度学习架构,在分类和重建任务中显著降低全局损失,且生成的局部规则比MLP替代方案更具可解释性。 此方法有望推动能源高效的深度学习发展,并有助于发现生物学上合理的学习机制。
研究提出能量水平分布距离(ELD),通过对比真实与合成图像的能量分布来审计合成数据,预测视觉预训练性能优于 FID 和 LPIPS。 ELD 能识别被传统指标忽略的分布失配,并指导合成数据重采样与混合,在匹配真实图像能量直方图的同时保留多样性以提升下游迁移效果。 该成果已被 NeurIPS 2026 接收为口头报告。
研究揭示大语言模型后训练中“近全秩更新”与“低稳定秩变化”的矛盾表象兼容。对于奇异值呈幂律衰减的更新,随着维度增加,稳定秩相对于固定能量秩变得可忽略。 对 OLMo-2-7B 的 PPO 更新进行全 SVD 分解显示,稳定秩仅为 9.6-18.3,但需 532-1,222 个奇异分量才能覆盖 80% 能量。
针对 Transformer 基础模型表征探查仅关注最终层的问题,研究通过 144,000 次线性探查评估,发现最优层与模块联合选择能显著提升特征质量。 研究提出视觉模型采用 Act@100、语言模型采用 LN2@60 的固定策略,分别恢复最优探查收益的 42% 和 86%。 该策略在多数评估中优于基线,且视觉模型收益随迁移难度增加而提升。
该研究将 AdamW 视为动力系统,证明其隐式固定点对应一个受限正则化优化问题的驻点,但并非所有固定点均稳定。 稳定性敏感依赖于曲率、权重衰减及动量参数;在一维设定下平衡点可能不稳定,轨迹表现为持续振荡而非收敛。 论文推导了连续时间动力学的局部稳定性充分条件,并提出一种保留 AdamW 固定点的收敛性改进算法。
该论文提出一种一次性分层联邦聚类(FC)框架,用于解决多机构生物医学数据中分布碎片化及递归计算开销大、隐私泄露风险高的问题。 框架通过客户端向服务器传输原型进行分布探索与聚合,并在服务器端采用多粒度竞争学习机制融合簇元,以抵消信息损失。 实验表明,该框架在公共数据集上优于现有方法,有效平衡了鲁棒聚类、隐私保护与计算效率。
Channels4World发布包含10万户外场景的无线基础模型数据集。 数据集含52.43B基站-用户配对、104.86B频率评估及29.14TB载荷,支持3.5/7GHz频段。 实验表明训练在更广场景集上的模型在留出场景泛化能力更强。
ALETHEIA是首个针对无损检测神经PDE求解器的3D基准数据集,包含4700多个高分辨率样本,覆盖1-100kHz的10个激励频率。 数据集模拟导电固体中的涡流致热及瞬态热传播,支持从表面红外测量进行缺陷的逆向重建,并包含真实裂纹铁轨样本。 该数据集为在真实无损检测条件下评估神经PDE求解器提供了统一平台,支持数据驱动的逆向建模。
FRESCO通过约束优化解决异步流水线训练中的梯度不一致问题,旨在以最小更新修改维持前向等价性。 在LLM预训练中,FRESCO优于代表性基线;流水线深度达32时,比最强基线少43%迭代次数和30%实际耗时,且内存开销减少8至921倍。 该工作为高利用率流水线并行训练奠定了基础,为资源受限系统上的大规模模型开发提供可扩展路径。
SkillDuet 框架利用模型响应反馈协调参数更新与技能进化。在 Qwen3-4B 上,ALFWorld 成功率达 98.57%,WebShop 达 92.97%,分别超出 SEED-API 基线 2.86 和 5.47 个百分点。
研究提出 CHORD 多分辨率压缩器,针对可穿戴设备、移动设备及 IoT 平台生成的多模态时间序列数据,实现高效存储与传输。 该方法采用“粗到细”的压缩架构,通过残差级联和共享/私有多模态路径,利用有限标量量化预先固定每类信号和尺度的比特宽度。
研究揭示 ECG 模型在急性冠脉综合征预测中因选择性标签导致的失效,3 个微调模型在未检测患者中 AUROC 为 0.381-0.478,表现低于随机水平。 模型在已检测患者中 AUROC 达 0.740-0.770,但训练于不稳定心绞痛的模型与风险呈反向相关(AUROC 0.310)。 该机制表明有效学习需确保预测目标可从模型输入推断,并在预期部署人群中评估。
提出MOTIF框架,利用大语言模型生成候选材料分类学,通过不变特征选择提升分布外(OOD)泛化能力。在二维卤化物钙钛矿带隙预测任务中,MOTIF将平均OOD MAE从0.122 eV降至0.111 eV。
统一因子化表示(UFR)网络能显著抵抗灾难性遗忘,且无需修改微调算法或网络架构。UFR 中特征的协调变化比纠缠表示(FER)的破坏性变化更能缓解遗忘。 实验表明,通过 UFR 兼容的变体反复微调,UFR 网络的遗忘程度远低于 FER 网络。
GradReason 利用 LLM 分析权重与梯度历史,通过无梯度的“虚拟 epoch”替代部分训练轮次。 在 CIFAR-10/100 的 120 次运行中,Claude Opus 5.5 使数据 epoch 减少 32.8%,测试准确率仅低 0.31 个百分点。 单次 Opus 运行成本 0.68 美元,但智能体延迟超过了其节省的 GPU 时间。
Hydro-Dataset v1.1 发布了一个融合瑞典和芬兰 582 个气象站 2015-2024 年数据的开源管道,生成 180 万条注释站天记录。 该数据集包含雪水当量、融雪速率等 6 类衍生参数,可作为水文基础模型的基准标签;ERA5-Land 交叉验证显示观测锚定 SWE 比再分析数据更具可靠性。
针对持续模型合并中任务组件纠缠导致奇异几何扭曲的问题,作者提出 GS3R 方法。 该方法通过恢复保留的奇异几何并分离任务子空间,公平重新分配秩资源;结合预合并恢复与刷新(PRF)机制降低内存开销。 在视觉、NLP 和多模态基准测试中,GS3R 实现了强准确率与效率平衡,已被 NeurIPS 2026 接收。
针对LLM后训练中复用采样rollout导致的训练崩溃或梯度截断问题,提出有界残差对齐训练(BRAT)。 BRAT通过线性衰减的token梯度权重和归一化组中心奖励,避免额外超参并保持优势有界。 在四轮复用下,BRAT避免了训练崩溃,在多数基准上实现了更低的种子方差和更高的平均准确率。
InfraRSI 通过五阶段智能体工作流将开放式人类指令转化为经验证的训练优化,在四项单节点及多节点 MoE 任务中实现最高 2.75 倍加速。 该框架通过全局执行时间与内存模型修正 LLM 先验,将平均 Model FLOPs Utilization 从 17.4% 提升至 30.0%,并跨硬件复用经验。
论文提出在固定秩矩阵流形上约束 LLM 微调的加法更新块,保持预训练权重冻结。 方法包含 Riemannian ZO 梯度估计器及 ZO-RGD 和 ZO-RGD-S 算法,在期望下恢复黎曼梯度并证明收敛性。 实验显示该算法在多个模型族和任务上性能优于强 forward-only 基线,部分设置中有增益。
研究团队发布了EEGFaceSem数据集,包含30名参与者的67,200条与生成式人脸图像配对的EEG记录。 该数据集提供生成潜向量,支持单试次语义分类及脑监督图像生成,代码已在HuggingFace开源。 这为语义级视觉显著性检测及脑机接口研究提供了新工具。
MACaQ 是一种 MXFP4 W4A4 后训练量化方法,通过逐层独立处理和在线应用块哈达玛变换,避免了跨层依赖。 在 vLLM 中的 Qwen3-32B 上,MACaQ 仅增加 2.3% 的端到端推理开销,并比 DuQuant++ 和 MR-GPTQ 实现了更低的困惑度。 该方法在 11 倍更快的量化时间内匹配 Llama-3-8B 的最佳困惑度,并展示了通用性和高效性。
公开 LoRA 适配器存在基础模型不匹配及近零 delta 范数,导致遗忘测量干扰增大约 10pp。 研究在 Llama-3.1-8B-Instruct 上提出双项审计,发现原生合并使 GSM8K 下降 10.5pp、HumanEval 下降 18.3pp,而 Task Arithmetic 性能接近基线。