跳到正文
11月10日周二
  1. arXiv · ML31

    语言模型后训练中的谱秩与步长方向动态研究

    研究揭示大语言模型后训练中“近全秩更新”与“低稳定秩变化”的矛盾表象兼容。对于奇异值呈幂律衰减的更新,随着维度增加,稳定秩相对于固定能量秩变得可忽略。 对 OLMo-2-7B 的 PPO 更新进行全 SVD 分解显示,稳定秩仅为 9.6-18.3,但需 532-1,222 个奇异分量才能覆盖 80% 能量。

  2. arXiv · ML26

    基于信赖域方法的 Schrödinger Bridges 学习算法

    针对目标分布无采样且仅存未归一化密度时 IPF 数值不稳定问题,提出一种信赖域变体 IPF 方法,通过约束迭代步长的 Kullback-Leibler 散度提升数值稳定性。 该方法可解释为具有自适应步长的镜像下降方案,并在多项具有挑战性的采样任务中验证了有效性,论文已被 NeurIPS 2026 接收。

  3. arXiv · ML27

    TimeGPT 在急救呼叫量预测中的表现不及传统方法

    TimeGPT 预训练模型在预测每日急救呼叫量时,表现未优于 SARIMAX、NBR 等传统方法。单变量预测中 SARIMAX 整体表现最佳,多变量预测中 NBR 和 PR 效果最好。 该研究使用 2,101 个每日观测值,结合时间、气象及社会经济变量,在一步和七日预测场景下评估。结果表明,大规模预训练并未转化为急救呼叫量预测的更高精度,利用现有数据训练的传统方法依然更具优势。

  4. arXiv · ML45

    逐层逐模块探查 Transformer 表征

    针对 Transformer 基础模型表征探查仅关注最终层的问题,研究通过 144,000 次线性探查评估,发现最优层与模块联合选择能显著提升特征质量。 研究提出视觉模型采用 Act@100、语言模型采用 LN2@60 的固定策略,分别恢复最优探查收益的 42% 和 86%。 该策略在多数评估中优于基线,且视觉模型收益随迁移难度增加而提升。

  5. arXiv · ML42

    JoMoHa: 联合模型与 Harness 优化强化学习框架

    JoMoHa 提出首个通过强化学习联合训练可执行 harness 生成策略与任务执行策略的框架,解决单一组件优化受限及交替训练导致的不兼容性问题。 该方法在 ALFWorld、WebShop 和 DBBench 上均优于仅优化权重或 harness 的基线方法,ALFWorld 平均成功率为 70.3%,最高达 97.0%。

  6. arXiv · ML20

    基于容量感知机制学习以最小化医院再入院率的队列式Markov决策过程研究

    容量感知决策策略通过将住院时长分散化,在无需显式公平性约束的情况下一致估计再入院风险,避免传统阈值策略的审查偏差恶性循环。 在合作医院校准的模拟中,该策略将学习误差降低 24%-25%,并减少 38%-63% 的再入院成本不平等(经基线风险调整后)。 结果证明容量感知策略能同时提升预测性能与公平性,解决由数据不足导致的系统性偏差。

  7. arXiv · AI35

    个性化价值对齐:基于人类价值图谱调整大语言模型

    提出个性化价值对齐框架,将模型响应适配用户稳定的 Schwartz 价值图谱,而非人口统计特征或任务偏好。 构建 1,501 个价值冲突场景数据集,评估 152 个抽样价值图谱。采用针对性提示结合激活引导或 LoRA-DPO 方法,性能优于无个性化及全图谱提示基线。 已被 EMNLP 2026 主会接收。

  8. arXiv · AI33

    可解释性工具并非模型特定:残差流映射实现跨模型迁移

    研究通过基于无标签提示的残差流映射,成功将拒绝方向及读入工具在 5 个模型族、110 对模型间进行迁移。 迁移效果受映射拟合数据影响:使用普通问题时恢复率较低,增加特定区域无标签提示后,拒绝引导恢复率达 102%。 线性覆盖分数可预测迁移成功率,该机制证明可解释性结论能以极少的无标签提示在模型间复用。

  9. arXiv · ML31

    基于得分最大化的无监督坍塌防护框架 EBReg

    论文提出 EBReg 框架,利用潜变量得分估计防止无监督学习中的表示坍塌。该方法联合训练编码器和得分模型,在 ImageNet-1K 上实现 75.57% 线性探针准确率,使用 ViT-L 架构。 测试时,得分引导的自适应机制在 ImageNet-C 数据集上提升约 5% 的平均相对准确率,增强了模型的鲁棒性。

  10. arXiv · ML31

    D3Tree:学习剪枝块扩散草稿树以用于高效验证

    D3Tree 通过学习预测节点生存率来动态剪枝块扩散草稿树,解决了高并发服务下低效分支竞争验证容量的问题。 模型在 6 个视觉语言验证器和 17 个基准测试中表现最优,在 72 种负载设置中的 70 种情况下速度最快。单请求推理加速 3.2-4.0 倍,64 并发时加速 1.3-1.8 倍,且在时变到达轨迹下具有最低平均端到端延迟。

  11. arXiv · AI29

    大语言模型递归测试时扩展的深度组合配置

    针对 LLM 递归推理中单一深度视角的局限,提出深度组合配置(DPA)方法。 DPA 将递归测试时扩展重构为跨深度特定候选源的资金配置,支持固定组合及反馈引导的序贯配置。实验在 GSM8K、SVAMP、MultiArith 和 MBPP 上表明,混合深度组合在匹配候选数量和名义成本下扩展了 oracle 覆盖范围,反馈引导配置通常能匹配或改进均匀配置,并能在高预算设置下减少计算。

  12. arXiv · AI30

    ECOS 语言智能体自蒸馏框架

    提出环境校准在线自蒸馏框架 ECOS,利用环境结果校准教师指导权重,抑制自写技能误差传递。 3B 和 7B 智能体在 ALFWorld 测试集宏观成功率分别达 90.5% 和 93.3%,WebShop 成功率为 75.5% 和 80.5%。 在未见过的 ALFWorld 任务上,该模型比 GRPO 协议高出 11.0 和 7.6 个百分点。

  13. arXiv · ML32

    原语与路径:基于基础模型已有能力预测后训练效果

    研究人员提出二维状态空间框架,用于预测后训练对语言模型的能力影响。 框架包含有效全解支持与原语覆盖两个维度,界定了放大、组合受限及获取受限三种状态。 在三个小型语言模型上的合成任务测试表明,仅掌握原语无法保证强化学习学会组合,建立非零支持的中期训练对强化学习收益至关重要。

  14. arXiv · AI21

    AutoQS:利用大语言模型设计自动化量化策略

    提出 AutoQS 方法,利用 LLM 自动化设计量化策略,在固定权重精度下搜索各层及算子的 group-size 分配。 通过低开销代理评估筛选候选方案,并保留备用分配以指导后续 LLM 提议,周期性进行实际量化以获取质量反馈。 在 Qwen2.5-7B-Instruct 上,AutoQS 使 7 项任务平均准确率比 GPTQ 和 AWQ 分别提升 0.70 和 1.12 个百分点。

  15. arXiv · ML22

    PCRS:面向 Token 高效 LLM 推理的相位条件奖励塑形框架

    提出相位条件奖励塑形(PCRS)框架,结合相位识别与训练时奖励分配。 PCRS 包含隐藏状态(PCRS-H)与冻结文本分类器(PCRS-T)两条路线,通过重叠标签与重复检测调整 token 惩罚。 在六大基准上,默认文本分类配置将平均响应长度降低 3.13%,Oracle Pass@16 从 86.08% 提升至 87.67%。

  16. arXiv · ML25

    DPDP: 扩散策略引导的离线强化学习扩散规划器

    DPDP 将扩散策略引入扩散规划器的执行步骤,结合价值感知策略与长视野规划优势。 该方法是 D4RL 数据集上的改进,在长时程导航任务中领先,且在运动控制任务中与反应式扩散策略保持竞争力。 方法包含免训练采样器与偏好目标摊销两种实现路径。

  17. arXiv · ML25

    二进制决策下带可行性保证的线性策略处方学习

    针对不确定性下的二进制决策,提出一种结合线性决策策略与可行赋值的处方学习框架,并在两个案例中验证其有效性。 该框架扩展为基于 Wasserstein 模糊集的分布鲁棒随机约束形式,在分布偏移场景下相比传统预测学习将总成本降低最多 76.5%,显著减少未满足需求。

  18. arXiv · AI20

    基于扰动谱分析扫视路径解码流水线

    提出扰动谱方法评估试水平扫描路径描述符,通过五种变换破坏特定属性并保留不变量,以重新拟合后参与者留出AUC的下降衡量流水线敏感性。 在仿真中,99.6%的区间覆盖目标值,排除零值的汇总率不超过2.5%;对12个二元问题(阅读、代码理解、视频观看)中7个描述符的扰动分析表明,扫视顺序置换会显著改变基于平均扫视幅度的描述符性能。

  19. arXiv · ML23

    BRAT:用于稳定多轮LLM后训练 的有界残差对齐训练

    针对LLM后训练中复用采样rollout导致的训练崩溃或梯度截断问题,提出有界残差对齐训练(BRAT)。 BRAT通过线性衰减的token梯度权重和归一化组中心奖励,避免额外超参并保持优势有界。 在四轮复用下,BRAT避免了训练崩溃,在多数基准上实现了更低的种子方差和更高的平均准确率。

  20. arXiv · ML28

    LieSPHGP:基于随机 Port-Hamiltonian 高斯过程学习李群噪声动力学

    研究人员提出 LieSPHGP 框架,利用随机高斯过程学习带有 Port-Hamiltonian 结构的刚体动力学。 该框架在 Lie 群上表示运动,采用 Matérn 核高斯过程建模不确定性,并通过隐式显式积分器确保稳定性。 实验表明,相比神经网络基线,LieSPHGP 在噪声刚体基准测试中具备更高的预测精度和长程稳定性。