HORA:基于命中效用的无学习 RLVR 组级 Rollout 分配策略
HORA 提出了一种无学习的 rollout 分配策略,旨在通过最大化总后验命中效用,解决 GRPO 等基于组策略优化方法中 rollout 分配不均导致的计算效率低下问题。
HORA 提出了一种无学习的 rollout 分配策略,旨在通过最大化总后验命中效用,解决 GRPO 等基于组策略优化方法中 rollout 分配不均导致的计算效率低下问题。
研究提出“稳定但错误”(SBW)概念,指出优化稳定性不代表正确性。持续的系统性偏差可使学习结果稳定在偏离真实目标的状态。 实验表明,在科学发现和CIFAR-10任务中,针对性证据比等量通用证据更有效地纠正预设错误,而未明显损害正确状态。 该研究揭示了收敛等内部指标在持续偏差下的局限性。
谱生成器神经算子SGNO结合线性估计与学习校正,在13个周期PDE配置中,将100步rollout误差相比最强基线降低13-74%。 该方法在线性任务上准确学习状态演化,并通过联合训练捕捉非线性交互,长时程外推测试显示部分任务晚期窗口预测误差更低。
研究提出熵离散调度(EDS)和水斯坦离散调度(WDS),基于热力学熵产生与动力学活跃度优化离散扩散模型反向过程。 WDS 结合熵产生与动力学活跃度作为几何成本,在 MBPP 基准上达到与均匀调度相同效果,但计算量减少最多 50%。 代码已开源。
提出 FermiGrad-SVD 流水线优化基于 SVD 的 LLM 压缩,包含 FermiGrad、Targeted Compressor 和 PivGa 三个互补方法。
In-Place Feedback 范式在五项推理基准中持续优于标准多轮反馈,且消耗更少 token。 该范式通过用户直接编辑模型响应并基于编辑后上下文继续生成,能更可靠地应用并传播修正。 用户研究显示,领域专家对该方式的最终输出满意度更高且疲劳度显著降低,混合策略进一步提升了所有衡量维度。
研究发现,在循环神经网络中引入内在神经元膜时间常数的异质性,可显著提升数百项时序任务的性能与鲁棒性。 小尺度异质网络在部分成本和复杂度下即可匹敌大尺度同质网络,这种机制通过多样化神经元反应增强表征容量。 该机制为神经形态计算提供了利用设备间变异性抵消训练预算限制的方案。
Mamba Hawkes Process (MHP) 是首个将选择性状态空间模型 Mamba 与时间点过程结合的框架,以线性复杂度编码事件历史并捕捉长期依赖。 理论证明 MHP 泛化了经典多指数 Hawkes 过程和指数衰减门控 RNN。
针对部署时无法采集关键决策变量导致的“运行时混淆”问题,研究提出了策略学习与离策略评估新方法。 开发了三类贡献:构建运行时混淆下的策略学习算法,提出半参数高效的离策略估计程序,并提供混淆代价诊断工具,以防止偏差随时间传播。
CoC-CFG 在 VLA 策略中应用无分类器引导,将推理权重选择建模为马尔可夫决策过程以测量动作价值。 Q-自适应引导在 Alpasim 驾驶模拟器中以 262/300 场景通过率超越原策略,Waymo 基准上亦优于固定权重方法。 在隐藏测试集上,该方法实现了 8.135159 的评估反馈分数,刷新了已公开方法的状态最先进水平。
summary_zh: 针对联合训练分类器与路由器在样本效率上的优势及理论缺口,本文提出成本敏感铰链损失,适用于单阶段与级联路由两种设定。 作者证明在最小化铰链风险时可恢复目标成本敏感零一损失下的贝叶斯最优风险,即线性校准界。
该工作形式化了目标景观固有维度的概念,将其定义为随机平面以概率一与集合相交的最小维度。 作者证明了该固有维度是依赖全局几何的广义余维概念,并推导了浅层和深层 ReLU 网络在有限及无限样本场景下的上下界。 该理论建立了新型泛化界,揭示了固有维度作为学习复杂性度量的作用。
研究人员在 ESP32-P4 微控制器上成功运行了 65.7M 参数的英语流式语音识别模型 Kroko,未使用任何神经加速器。该模型经 2/4 位量化后权重文件仅 26.65 MB,处理每个 1.28 秒音频块耗时 0.90 秒,LibriSpeech test-clean WER 为 4.34%。
在随机特征线性模型中,不同协方差结构的数据集混合会导致多重下降现象。模型规模增加时,协方差的尺度与谱结构异质性会引入额外的、依赖数据分组的插值阈值。该现象在无标签噪声和线性激活下也能出现。这为算法公平性提供了新视角,表明模型扩展可能对不同数据分组的泛化误差产生不均衡影响。
该文针对深线性网络特征学习提出闭式解,揭示了特征学习在预测中的影响机制。 研究表明,单步梯度更新会通过“反收缩”机制放大任务相关方向,但同时也放大噪声。 在过参数化比例极限下,推导了偏差、方差和泛化误差的闭式表达式,发现单步泛化优势仅在低维任务结构足够强时出现。
Google Cloud Dataflow 推出针对 LLM 混合流处理负载的系统,通过异构工作池自动扩展和前缀感知批处理,将吞吐量提升 1.5 至 2 倍。 该系统在保持类似延迟的同时,实现高达 75% 的峰值资源节省,并将峰值尾部延迟降低 84%。
论文提出指数残差流(ERFs)框架,为离散扩散模型建立确定性 ODE 采样基础。 该框架通过为每个 token 增加连续残差变量,使其按分段 ODE 确定性演化,当残差归零时改变离散状态,并证明该构造保持原扩散边缘分布。 ERFs 的确定性轨迹支持一致性蒸馏,在代码和文本生成等基准测试中表现出优于先前方法的经验性能。
提出首个预训练贝叶斯滤波模型 FilterFM,实现单检查点跨异构动力系统潜态估计。 模型采用分层两级观测序列编码器及先验到后验状态重建模块,通过分位数预测建模不确定性。 FilterFM 在未见动态上实现零样本滤波,并展示了基础模型规模效应。
DolphinRouting 通过端到端 SLO 反馈学习,在解耦 LLM 推理服务中实现集群级二进制路由,降低推理延迟。 路由策略基于原始提示词长度、缓存调整后输入长度及输出长度信息进行请求聚类,通过离线策略搜索为每个簇学习一个本地或远程预填充的二进制动作。
研究者提出 H$^2$R 框架,利用数学问题的子问题结构作为分层提示,以改善强化学习中可验证奖励对多步推理的中间监督。该框架配套发布了层次化数学问题基准 HiMath。
扩散 LLM 调度引擎 DWISE 将平均端到端延迟降低 5.4 倍,最高达 14.9 倍,同时保持任务准确率不变。 该引擎基于剩余工作量预测进行调度,解决了 FCFS 与预填充优先策略在 dLLM 中的低效问题。实现已集成于 SGLang,代码将公开发布。
研究显示,在处理极少(1-10个)正样本的监控任务中,利用大量负样本进行训练比平衡训练更具备正样本效率。LLM 过采样技术可显著提升性能,效果相当于将真实正样本数量翻倍,但过度使用会降低表现。该发现表明应利用丰富的负样本资源来放大稀有关键误对齐案例的信号。
研究提出 LatentWeave 框架,通过在推理时对中间隐藏状态进行分段精修以纠正偏差。 该方法引入轻量级 WEAVE 令牌作为推理锚点,以稳定推理结构并引导生成。 在多个多模态推理基准上,该框架相比基线模型取得了性能提升,且代码已开源。
新算法消除对数因子,实现最小极大最优一阶遗憾界 O(√(K L*)). 基于 FTRL 与 Tsallis 熵正则化构建,同时达成双优遗憾界 O(∑ log T / Δ_i). 填补了现有算法损失依赖项与最优一阶尺度间的对数间隙.
Evo 2 的 1B 和 40B 检查点在 Blackwell GPU 上因 FP8 累加精度差异导致失效,而 7B 模型通过测试。在 RTX 5070 Ti 上,40B 模型的 BRCA1 变异分类 AUROC 仅 0.434;通过模拟 H100 FP8 GEMM,无需修改权重即可将其提升至 0.869。
MulClip是一种用于微控制器储层计算(RC)的轻量级激活函数,仅使用比较、绝对值、乘法和减法运算,避免了查表操作。 在Cortex-M4上,其状态更新时间是tanh的0.34倍,优于11种tanh近似方法。在PC端评估中,三阶MulClip在NARMA-20任务上的NMSE比tanh低22%,在8位奇偶校验任务上的准确率提升至0.97-0.98。
IMRouter 提出了一种不均衡感知时间模式路由框架,旨在解决基于 LLM 的时间序列预测中普遍存在的时间模式不均衡问题。 该框架包含 PATR 和 RGSA 模块,通过梯度冲突引导专家专业化,并利用互信息最大化进行跨模态对齐,有效降低了低频模式上的预测误差。 实验表明,IMRouter 在基准数据集上显著提升了不常见时间模式的预测性能,优化了资源管理与流量监控场景下的预测准确性。
Dual DeltaNet 提出双侧 delta 规则,扩展 Kimi Delta Attention (KDA) 以实现值侧记忆重组,在语言建模、零样本下游任务和检索任务中表现优于 KDA、GDN-2 和 Mamba-3。 该方法包含分块并行训练算法及 rank-2 递归推理机制,以提升算术强度,代码已开源。
多 Token 预测(MTP)标准训练存在缺陷,其梯度中的残差干扰学习且随规模增加而加剧。 研究人员提出 Soft-MTP 方法,通过 KL 梯度恢复技巧移除噪声残差,仅反向传播自蒸馏信号,支持 DeepSeek-和 Meta-风格 MTP,无额外参数且无可测量开销。
ParaTTT 算法通过迭代精化内部梯度轨迹,实现任意深度非线性记忆的并行化计算。 该算法在 4K 上下文下比 TTT-MLP 快 32 倍,1.3B 参数模型性能优于 Gated DeltaNet 和 Mamba-2。
针对离线强化学习中动作分布匹配无法保证动态一致性的问题,研究提出结构行为正则化(StBR)方法。 StBR 用闭式潜空间散度替代不可解的真实后果分布约束,在动态敏感区域自适应收紧行为限制,防止代理偏离离线数据集。 实验显示 StBR 在多种离线 RL 基准上取得更优表现,相关论文已被 NeurIPS 2026 接收。
研究提出多掩码选择性自蒸馏(MASS)方法,以解决单一参考自蒸馏导致预测集中在单一推理轨迹的问题。 MASS 通过对单一已验证解进行独立掩码视图来近似边缘分布,聚合互补教师预测,并自适应地将掩码集中在有影响力的参考片段上。 在数学推理基准测试中,MASS 持续优于强大的自蒸馏基线模型。
论文提出TGTV框架,整合时空图学习与大语言模型,用于固定翼无人机的可解释故障检测与追溯。 在ALFA公开数据集上,该框架窗口级检测的AUPRC达0.976,准确率0.973,召回率0.902,F1分数0.920。 飞行级故障诊断召回率达0.943,F1分数0.944,为可解释的飞行后故障分析提供了依据。
研究者提出积分概率边界(IPB),作为积分概率度量(IPM)的非线性泛化,以解决 IPM 在罕见事件或弱势群体上给出的界限过宽问题。 IPB 在分布极端处提供紧致界限,文中推导了其基本性质并给出了实际场景下的估计算法。 在生成建模任务中,IPB 对弱势群体的公平性差距估计比现有方法精确 15 个百分点。
研究指出,基于冻结表征对齐的谱图-分子检索路径存在根本局限,且解决了数据稀缺问题的方法并非架构层面创新。 在 MassSpecGym 基准中,研究发现某些预测目标固定了分子身份但未确定度量指标;基于候选项的目标奖励了一种谱图无关的先验分布,模拟谱图效果优于冻结几何结构。 该工作已作为海报论文被 NeurIPS 2026 物理科学表征研讨会接收。
Bi-Phase Training (BPT) 是一种参数高效的预训练方法,通过训练低秩适配器并定期合并权重,在 Qwen2.5 和 OLMo-2 模型中实现接近全参数基线的验证困惑度。 在 1.5B 参数规模下,BPT 使用 66% 更少的可训练参数,并在 10B 和 100B tokens 数据集上保持了较高的下游任务表现。
研究者提出名为 OptiFlow 的框架,用于解决离线强化学习中单步流策略的多模态行为学习难题。该工作已被 NeurIPS 2026 接收,全文共 38 页,相关代码已开源。
针对生成式推荐中物品表示易丢失语义及结构化 SID 关系建模不足的问题,论文提出了 ComeIR 框架。该框架通过项目引导的 Token 评分估计 SID 码贡献,并利用双水平条件记忆捕捉物品内部前缀组合与物品间前缀转移模式。实验表明,扩大条件记忆规模可带来可扩展的性能提升。
论文提出名为 DUET 的方法,通过联合调优提示词分配与 rollout 长度来控制 RLVR 训练的 token 预算。 DUET 基于 GRPO,在 Qwen3-1.7B 的 MATH 训练中实现 1.62 倍实时加速;若仅使用 50% 预算,仍能优于全预算基线,并达成 2.51 倍加速。
ASTOR 框架提出基于任务效用的多任务代码强化学习方法,通过效用路由数据调度和自适应策略优化提升 LLM 训练效果。 实验表明,ASTOR 在四个编码任务上超越最佳单任务专家 9.0%-9.5%,优于最强 MTRL 基线 7.5%-12.8%。