跳到正文
10月30日周五
  1. arXiv · ML34

    稳定但错误:学习在偏离真理时如何收敛

    研究提出“稳定但错误”(SBW)概念,指出优化稳定性不代表正确性。持续的系统性偏差可使学习结果稳定在偏离真实目标的状态。 实验表明,在科学发现和CIFAR-10任务中,针对性证据比等量通用证据更有效地纠正预设错误,而未明显损害正确状态。 该研究揭示了收敛等内部指标在持续偏差下的局限性。

  2. arXiv · ML32

    SGNO: 用于长时程PDE预测的谱生成器神经算子

    谱生成器神经算子SGNO结合线性估计与学习校正,在13个周期PDE配置中,将100步rollout误差相比最强基线降低13-74%。 该方法在线性任务上准确学习状态演化,并通过联合训练捕捉非线性交互,长时程外推测试显示部分任务晚期窗口预测误差更低。

  3. arXiv · ML28

    离散扩散模型改进采样调度:EDS 与 WDS

    研究提出熵离散调度(EDS)和水斯坦离散调度(WDS),基于热力学熵产生与动力学活跃度优化离散扩散模型反向过程。 WDS 结合熵产生与动力学活跃度作为几何成本,在 MBPP 基准上达到与均匀调度相同效果,但计算量减少最多 50%。 代码已开源。

  4. arXiv · ML31

    In-Place Feedback:提升多轮专家-LLM协作可靠性的交互范式

    In-Place Feedback 范式在五项推理基准中持续优于标准多轮反馈,且消耗更少 token。 该范式通过用户直接编辑模型响应并基于编辑后上下文继续生成,能更可靠地应用并传播修正。 用户研究显示,领域专家对该方式的最终输出满意度更高且疲劳度显著降低,混合策略进一步提升了所有衡量维度。

  5. arXiv · ML22

    利用内在神经元异质性实现鲁棒且高效的增强表征

    研究发现,在循环神经网络中引入内在神经元膜时间常数的异质性,可显著提升数百项时序任务的性能与鲁棒性。 小尺度异质网络在部分成本和复杂度下即可匹敌大尺度同质网络,这种机制通过多样化神经元反应增强表征容量。 该机制为神经形态计算提供了利用设备间变异性抵消训练预算限制的方案。

  6. arXiv · ML25

    CoC-CFG 如何测量 VLA 模型对推理轨迹的信任度?

    CoC-CFG 在 VLA 策略中应用无分类器引导,将推理权重选择建模为马尔可夫决策过程以测量动作价值。 Q-自适应引导在 Alpasim 驾驶模拟器中以 262/300 场景通过率超越原策略,Waymo 基准上亦优于固定权重方法。 在隐藏测试集上,该方法实现了 8.135159 的评估反馈分数,刷新了已公开方法的状态最先进水平。

  7. arXiv · ML26

    形式化目标景观固有维度的广义余维概念

    该工作形式化了目标景观固有维度的概念,将其定义为随机平面以概率一与集合相交的最小维度。 作者证明了该固有维度是依赖全局几何的广义余维概念,并推导了浅层和深层 ReLU 网络在有限及无限样本场景下的上下界。 该理论建立了新型泛化界,揭示了固有维度作为学习复杂性度量的作用。

  8. arXiv · ML28

    异质数据引发新的多重下降现象

    在随机特征线性模型中,不同协方差结构的数据集混合会导致多重下降现象。模型规模增加时,协方差的尺度与谱结构异质性会引入额外的、依赖数据分组的插值阈值。该现象在无标签噪声和线性激活下也能出现。这为算法公平性提供了新视角,表明模型扩展可能对不同数据分组的泛化误差产生不均衡影响。

  9. arXiv · ML26

    深线性网络中特征学习早期迹象的探究

    该文针对深线性网络特征学习提出闭式解,揭示了特征学习在预测中的影响机制。 研究表明,单步梯度更新会通过“反收缩”机制放大任务相关方向,但同时也放大噪声。 在过参数化比例极限下,推导了偏差、方差和泛化误差的闭式表达式,发现单步泛化优势仅在低维任务结构足够强时出现。

  10. arXiv · ML25

    基于 ODE 的离散扩散模型采样器:引入指数残差流

    论文提出指数残差流(ERFs)框架,为离散扩散模型建立确定性 ODE 采样基础。 该框架通过为每个 token 增加连续残差变量,使其按分段 ODE 确定性演化,当残差归零时改变离散状态,并证明该构造保持原扩散边缘分布。 ERFs 的确定性轨迹支持一致性蒸馏,在代码和文本生成等基准测试中表现出优于先前方法的经验性能。

  11. arXiv · ML35

    DWISE 扩散 LLM 调度引擎发布

    扩散 LLM 调度引擎 DWISE 将平均端到端延迟降低 5.4 倍,最高达 14.9 倍,同时保持任务准确率不变。 该引擎基于剩余工作量预测进行调度,解决了 FCFS 与预填充优先策略在 dLLM 中的低效问题。实现已集成于 SGLang,代码将公开发布。

  12. arXiv · ML36

    少量正样本下激活探针在垃圾邮件与诚实度检测中的可靠性研究

    研究显示,在处理极少(1-10个)正样本的监控任务中,利用大量负样本进行训练比平衡训练更具备正样本效率。LLM 过采样技术可显著提升性能,效果相当于将真实正样本数量翻倍,但过度使用会降低表现。该发现表明应利用丰富的负样本资源来放大稀有关键误对齐案例的信号。

  13. arXiv · ML22

    MulClip:面向微控制器储层计算的非表格化激活函数

    MulClip是一种用于微控制器储层计算(RC)的轻量级激活函数,仅使用比较、绝对值、乘法和减法运算,避免了查表操作。 在Cortex-M4上,其状态更新时间是tanh的0.34倍,优于11种tanh近似方法。在PC端评估中,三阶MulClip在NARMA-20任务上的NMSE比tanh低22%,在8位奇偶校验任务上的准确率提升至0.97-0.98。

  14. arXiv · ML31

    IMRouter:用于基于LLM的时间序列预测的不均衡感知时间模式路由框架

    IMRouter 提出了一种不均衡感知时间模式路由框架,旨在解决基于 LLM 的时间序列预测中普遍存在的时间模式不均衡问题。 该框架包含 PATR 和 RGSA 模块,通过梯度冲突引导专家专业化,并利用互信息最大化进行跨模态对齐,有效降低了低频模式上的预测误差。 实验表明,IMRouter 在基准数据集上显著提升了不常见时间模式的预测性能,优化了资源管理与流量监控场景下的预测准确性。

  15. arXiv · ML25

    变分后果驱动的离线强化学习方法 StBR 提出

    针对离线强化学习中动作分布匹配无法保证动态一致性的问题,研究提出结构行为正则化(StBR)方法。 StBR 用闭式潜空间散度替代不可解的真实后果分布约束,在动态敏感区域自适应收紧行为限制,防止代理偏离离线数据集。 实验显示 StBR 在多种离线 RL 基准上取得更优表现,相关论文已被 NeurIPS 2026 接收。

  16. arXiv · ML37

    MASS:基于多掩码选择性自蒸馏的泄漏鲁棒推理方法

    研究提出多掩码选择性自蒸馏(MASS)方法,以解决单一参考自蒸馏导致预测集中在单一推理轨迹的问题。 MASS 通过对单一已验证解进行独立掩码视图来近似边缘分布,聚合互补教师预测,并自适应地将掩码集中在有影响力的参考片段上。 在数学推理基准测试中,MASS 持续优于强大的自蒸馏基线模型。

  17. arXiv · ML29

    TGTV:面向无人机遥测的可解释多变量时间序列异常检测

    论文提出TGTV框架,整合时空图学习与大语言模型,用于固定翼无人机的可解释故障检测与追溯。 在ALFA公开数据集上,该框架窗口级检测的AUPRC达0.976,准确率0.973,召回率0.902,F1分数0.920。 飞行级故障诊断召回率达0.943,F1分数0.944,为可解释的飞行后故障分析提供了依据。

  18. arXiv · ML30

    积分概率边界:一种非线性泛化的 IPM 方法

    研究者提出积分概率边界(IPB),作为积分概率度量(IPM)的非线性泛化,以解决 IPM 在罕见事件或弱势群体上给出的界限过宽问题。 IPB 在分布极端处提供紧致界限,文中推导了其基本性质并给出了实际场景下的估计算法。 在生成建模任务中,IPB 对弱势群体的公平性差距估计比现有方法精确 15 个百分点。

  19. arXiv · ML26

    MassSpecGym 上的可分性并非对齐性:面向谱图-分子检索的表征分析

    研究指出,基于冻结表征对齐的谱图-分子检索路径存在根本局限,且解决了数据稀缺问题的方法并非架构层面创新。 在 MassSpecGym 基准中,研究发现某些预测目标固定了分子身份但未确定度量指标;基于候选项的目标奖励了一种谱图无关的先验分布,模拟谱图效果优于冻结几何结构。 该工作已作为海报论文被 NeurIPS 2026 物理科学表征研讨会接收。