跳到正文
10月20日周二
  1. arXiv · ML39

    通过PID负载均衡实现极度稀疏MoE模型稳定训练

    ID Balancing是一种基于积分-微分控制器的负载均衡方法,用于解决大语言模型中混合专家(MoE)路由不平衡问题。 该方法整合了DeepSeek的无损失方法和Kimi K3的分位数平衡方法。 实验显示,在Top-3路由设置下,ID Balancing将最坏情况骨干MaxVio降低超过50%,最坏情况骨干MaxVio在总参数量从18.9B增加到69.9B时保持稳定。

  2. arXiv · ML23

    Loop-µP:循环 Transformer 中的残差缩放与超参数迁移

    研究者提出 Loop-µP 参数化方案,解决循环 Transformer 随循环次数 N 增加导致训练不稳定及超参数失效问题。 理论证明在无限宽度极限下,残差分支乘以 1/N 且学习率与 N 解耦是保持前向传播稳定的唯一方式。语言建模实验中,该方法支持 N 高达 8、执行深度达 384 层的缩放,且无需重新搜索超参数。

  3. arXiv · ML28

    PivotTrace 通过追踪元认知转折点实现高效 RLVR 推理训练

    PivotTrace 提出一种利用注意力动态追踪推理中元认知转折点的三元数据分诊框架。该框架通过量化转折点密度来精确评估不确定性,实现了自动化数据路由,以协同最大化标注与训练效率。实验表明,PivotTrace 仅使用 29.3% 的标注样本即超越了全监督大模型,且收敛速度提升 2.75 倍。

  4. arXiv · ML23

    随机条件梯度法中批量大小的作用:理论分析与 NanoGPT 实验验证

    研究在 $\mu$-KL 条件下推导了动量型随机条件梯度算法(如 Scion)的分析框架,揭示了批量大小存在临界阈值:初始增大批量提升精度,但超过阈值后收益饱和甚至降低性能。 理论预测了最优步长量级,并提出了在训练中动态增加批量大小和序列长度的自适应策略。 在 NanoGPT 上的实验验证了理论预测的 scaling 规律,为设计高效训练调度提供了指导。

  5. arXiv · ML24

    Trajectory Replay: Continuous-Time Mixture Transport for Lifelong Generative Models

    Trajectory Replay 提出一种连续时间混合传输方法,用于终身生成模型,通过匹配冻结历史速度与 incoming task 速度场来规避样本生成,每次持续更新仅需少量网络评估即可访问历史轨迹。 实证显示,该方法在类别增量图像生成任务中优于 generative replay 与蒸馏基线,并在两个生物学案例中将生成扰动模型扩展至新上下文与实验批次,同时保持治疗效果预测能力。

  6. arXiv · ML26

    UtilityBench:测量不同成本错误下的语言模型效用

    UtilityBench 是一个包含 15,000 个可验证实例的基准,通过最佳最坏标度法量化错误严重性,用于评估语言模型在错误成本各异场景下的效用。 它引入 UtilityAUC 指标,通过模型响应排序下的效用曲线面积,实现超越错误频率的效用偏好对齐。 在 20 个最先进模型的评估中,较高的准确率或更先进的架构并不总能带来更高的 UtilityAUC,揭示了问题解决能力与负责任决策之间的差距。

  7. arXiv · ML33

    面向 Token 高效强化学习的自适应解码方法研究

    研究发现 RLVR 训练中的自适应解码调度可提升采样效率,动态扩大候选 token 支持范围优于固定策略。 在 4B 代码 RLVR 场景中,调度策略在 150M token 验证集上的插值分数平均比固定 K=10 策略高 1.80±0.42 分,且与最强的固定 K=20 基线表现相当。 这表明 rollout 支持范围是强化学习中采样效率的重要控制变量,为自适应调度设计提供了实证依据。

  8. arXiv · ML36

    Direct Preference Optimization (DPO) 的统计学习理论

    研究通过“三角卷曲”刻画 DPO 中 Bradley-Terry 模型假设失效导致的结构性近似误差,并证明其对最终性能的限制。 论文对 ReLU 评分模型及裁剪模型推导了显式近似速率,建立了有限样本界限,区分了模型容量不足与结构性误设的影响。 结果将 DPO 目标与上下文偏好准确性(CPA)关联,将超出风险上界转化到 CPA 度量上。

  9. arXiv · ML30

    FracTS:层次化自回归时间序列生成模型

    论文提出 FracTS,一种层次化由粗到细的自回归模型,用于生成多元时间序列。 FracTS 适应时间序列结构化特性,通过多尺度表示捕捉全局轨迹结构与局部动力学。 在五个数据集上,FracTS 预测机器学习效用平均提升 100.0%(无条件)及 75.0%-81.0%(有条件),超越七个基线。

  10. arXiv · ML26

    DROD: 异构设备联邦持续学习的双重比率有序dropout方法

    研究提出了DROD(双重比率有序dropout)方法,用于解决异构模型在联邦持续学习场景下的训练问题。该方法在ResNet-18架构上,通过shortcut和branch双比率机制提取子模型。 在共享参数和FLOP预算下,DROD在异构模型联邦学习策略中取得了最高平均准确率。其优势在ER、DER++和BiC等回放策略下保持稳定。

  11. arXiv · ML29

    PACT:在消费级 GPU 上实现 NVFP4 数据流 LoRA 微调

    PACT 是一个利用原生 NVFP4 GEMM 加速冻结投影的 LoRA 微调系统,旨在降低消费者显卡上的计算与内存约束。 在 16GB RTX 5080 上评估显示,该系统通过复用量化 RMSNorm 输出、保存 NVFP4 激活值用于反向传播,并离线使用 GPTQ 校准冻结权重,实现了比现有方法更低的内存占用和更快的微调速度,且保持具有竞争力的准确率。

  12. arXiv · ML21

    标签空间不匹配扭曲乳腺癌分子分型跨队列评估

    乳腺癌分型模型跨队列评估因标签标准不一而失真,标签空间限制修正主导效果(TCGA-BRCA 准确率 73.76%→79.74%)。 目标标签空间无法从未标记预测中恢复(EM 保留缺失类先验 0.0751),需依据队列文档确保合规性。 多模态融合增益未转移,基因组面板对病理完全缓解预测无额外价值(DeltaAUC +0.0045)。

  13. arXiv · ML25

    AdamPM: 通过矩池化实现内存高效的 LLM 优化

    提出内存高效的 Adam 优化器变体 AdamPM,将相邻矩条目分组共享均值,将二阶矩内存降低至原需求的 $1/s$。 该方法直接继承 Adam 超参数并易于集成现有实现,实验表明在 LLM 预训练和微调中能维持模型性能与训练速度。 代码已公开,系统验证了二阶矩池化作为有效设计。

  14. arXiv · ML27

    Physics-Aware Self-Supervised Pretraining on Multi-Domain Raman Spectra

    提出基于掩码自编码器的多域自监督预训练框架,结合物理感知目标与稀疏 Voigt 轮廓解码器学习拉曼光谱表征。 该框架通过可微峰位置、宽度和幅度建模谱峰结构,并加入去噪目标以增强对谱线畸变的鲁棒性。 实验表明,自监督预训练显著提升标注数据受限任务的标签效率、鲁棒性和可迁移性。

  15. arXiv · NLP23

    RLTLDR:通过内化自生成反馈实现自我提升

    RLTLDR 引入“TL;DR”反馈机制,使 Qwen 3.5 9B 模型在 Pass@128=0 的难题中实现自我提升。 模型在失败后生成单条洞察并用于后续采样,通过反向传播内化任务到洞察的映射关系,突破学习瓶颈。 RLTLDR 将无上下文评估时的 Pass@1 从 0%-1% 提升至 12%-13%,证明了紧凑训练范式的有效性。

  16. arXiv · NLP20

    提出 OPD 方法实现从弱到强的泛化

    研究人员提出 On-Policy Reverse Distillation(OPRD)方法,用于解决弱到强泛化问题,使更强模型从较弱教师中学习并超越教师。 该方法通过评估教师策略偏移并放大学生验证器驱动的策略梯度,在数学推理、代码生成等任务上,以更少的学生更新次数实现比现有强化学习和蒸馏方法更高的性能。

  17. arXiv · NLP31

    TTCS:面向 LLM 自进化的测试时课程合成框架

    提出 TTCS 测试时课程合成框架,通过问题合成器与求解器共同进化,解决现有测试时训练伪标签质量低及更新不稳定问题。 合成器生成适配求解器能力的渐进式问题变体,求解器利用自一致性奖励更新,二者形成稳定反馈循环。 实验显示其在数学基准上增强推理能力并迁移至通用任务,代码已开源。