跳到正文
10月8日周四
10月7日周三
  1. Hugging Face Blog62

    Nemotron微调在IOI和IMO 2026中双双达到金牌水平

    Nemotron通过监督微调和强化学习,在2026年国际信息学奥赛(IOI)和国际数学奥赛(IMO)中均达到金牌成绩,分别得分535.4/600和30/42。IOI结果来自实时、前瞻性运行,且得分超越了498.27的最高人类成绩。

    推荐理由:展示了如何将Nemotron模型微调至IOI和IMO金牌水平,并开源了可复现的领域特化方法。

  2. arXiv · NLP42

    Wiki-Talkie 发布:基于维基真实讨论的多语言智能体基准

    研究团队推出 Wiki-Talkie,这是一个涵盖德语、英语等 5 种语言的多语言数据集,用于基于真实用户画像评估 LLM 智能体。 该数据集源自维基讨论页,包含人口属性及行为特征。评测发现,利用用户评论历史比显式画像信息更有效,且模型普遍存在偏向积极情感的偏差。

  3. arXiv · NLP31

    Nucleus Speculative Decoding 提出宽松验证方法以加速推理

    Nucleus Speculative Decoding (NSD) 通过结合目标模型核采样(nucleus)的合理性来放宽验证规则,提升推测解码效率。 该方法能接受属于目标模型 nucleus 的 draft token,从而在保持任务性能的同时增加保留 token 数。实验显示 NSD 相比自回归解码可实现最高 5.16 倍吞吐加速,相比标准推测解码最高达 3.15 倍。

  4. arXiv · NLP26

    TIDE 2.0:面向临床笔记的去标识化开源引擎

    TIDE 2.0 是一个开源、模型无关的临床笔记去标识化引擎,通过双阶段架构实现保留关键临床信息的匿名化处理。 该引擎支持机构本地化部署,使用加密生成的代理键替代随机值以保持数据关联性。在两个黄金标注语料集上,其默认配置的域内 span 级召回率可达 0.88。

  5. arXiv · NLP30

    大语言模型潜在结构的因果可操作性子空间分析

    研究发现潜在结构的因果影响由容量、响应性和对齐度三个独立因子决定,低容量和响应性分别使因果有效性降低84%和95%。 研究覆盖4个语言模型家族和50个概念,发现因果性是语境依赖的,在低维子空间内训练线性探针可引入因果探针,实现17%-118%的模型引导提升,概念检测率仅降低3%。

  6. arXiv · ML30

    RIPE++: 仅基于正样本对的强化关键点学习

    RIPE++ 提出了一种仅利用单张正样本对推导奖励与惩罚的强化学习策略,摆脱了传统方法对负样本对的依赖,从源头增强了关键点检测与描述子的判别能力。 该方法将同一 RL 目标扩展至匹配阶段,通过适配 LightGlue 框架,使 MegaDepth1500 数据集上的 AUC@5 指标从 56.58 提升至 59.65。

  7. arXiv · ML21

    PertMind:通过细胞扰动数据强化学习激发LLM的生物涌现推理

    PertMind将细胞扰动图谱转化为强化学习环境,利用实测基因反应提供计算奖励,结合可信轨迹监督初始化与基因、通路及格式级强化信号。 该模型仅在正向扰动响应预测上训练,却提升了未见细胞背景下的响应推断,并无需任务特定后训练即可迁移至反向扰动识别和双扰动推理。 结果支持基于实验终点的强化学习可集中预训练模型中已具备的可复用生物策略,为将实验图谱转化为通用生物推理训练环境提供可扩展路径。

  8. arXiv · ML40

    Banyan:任务多样性引发系统迁移但抑制持续强化学习

    研究揭示在持续强化学习中,增加任务多样性虽带来系统性迁移,但过度的多样性会抑制学习者适应新任务分布的能力。 研究者提出 GPU 加速的 Banyan 领域,通过参数化控制地图布局、交互对象和子目标依赖三个维度来定义任务。 实验表明,高多样性下学习者在旧任务上持续改进,但在新任务上的成功率趋于平缓,该现象在多种持续学习算法和 Kinetix 物理控制域中均得到验证。

  9. arXiv · ML20

    HARL-A:基于 IsaacLab 的异构多智能体对抗强化学习可扩展基准框架

    HARL-A 是一个构建在 IsaacLab 上的开源框架,支持任意数量团队和任意形态混合的对抗策略扩展训练与基准测试。 该框架包含模块化软件架构、Sumo、Soccer、3D Galaga 三个基准环境,并在 Hugging Face 公开发布了 10 多个预训练策略,支持零样本探索对抗学习动态。

  10. arXiv · ML23

    Time-o1:一种用于时间序列预测的变换增强损失函数

    Time-o1 是一种变换增强损失函数,通过转换标签序列为去相关组件并训练模型对齐最显著组件,解决了时序预测中均值平方误差忽略标签自相关和任务过多的两大局限。 该函数兼容多种预测模型,在实验中被证明达到最先进(state-of-the-art)性能,有效缓解了标签自相关问题并减少了任务数量。其代码已开源,论文已被 NeurIPS 2025 接收为海报。

  11. arXiv · ML27

    大规模电商数据概念漂移下的分布式联合分布测试

    该研究评估了五种多列双样本检验方法在工业级数据集上的表现,包括哈佛数据档案馆和1.375亿行的Trendyol特征表。分布式最大平均差异结合随机傅里叶特征在强漂移模式下表现稳健,Pearson相关系数达0.940,真实阳性率80.4%,假阳性率3.2%。维度独立的Kolmogorov-Smirnov检验因统计量饱和而失败,揭示了大规模采样设计的关键限制。

  12. arXiv · ML31

    PFaithBench:基于成对语境敏感性视角的大语言模型忠实性重思

    提出PFaithBench基准,评估大语言模型在支持与不支持语境间切换回答与拒绝的能力。 覆盖39个模型7个系列,发现多数模型存在“过度回答”偏差,即在语境不足时仍编造答案。 忠实性训练对回答与拒绝数据的构成高度敏感,错误来源匹配会导致模型依赖数据集捷径。

  13. arXiv · ML50

    BiGym 2.0:基于 Unitree G1 的人形机器人家庭操作策略基准

    BiGym 2.0 是适配 Unitree G1 的人形机器人家庭操作基准,覆盖 20 项任务并采用统一的全身控制器。 该套件为每项任务提供 60 段原生 VR 人类演示,并对比了视觉-语言-动作微调、模仿学习等 4 类方法。结果显示视觉-语言-动作微调在 9 项任务均值上最高,智能体开发程序在双手到达任务中领先。 所有环境、人类演示及评估轨迹均已开源。

  14. arXiv · ML31

    Logbook:用于小时级音频事件理解的基准

    Logbook 是一个旨在突破短片段限制的基准,涵盖时长从 10 分钟到 6 天的小时级音频理解任务。该基准要求系统对连续音频进行无间隙分割,并为每个片段预测事件标签及描述。研究对比了 52 个系统,发现端到端模型通常优于级联系统,但长上下文会导致性能下降,且细粒度分割是普遍挑战。

  15. arXiv · ML26

    量子变分自编码器(QVAE)学习解耦表示

    研究证实量子变分自编码器(QVAE)能够学习出解耦且语义可解释的潜在表示,单个量子比特可作为有意义的潜在因子。 该结论基于对 MNIST 变体等三个数据集的实证研究及关于量子潜在维度的理论分析。 为理解量子潜在空间及其结构化表示学习潜力奠定了理论基础。

  16. arXiv · ML20

    CroissantMiner:面向 ML 数据集的 Croissant 元数据自动化提取与验证

    论文发布首个针对 Croissant 元数据提取的端到端基准,包含 602 篇论文,其中 102 篇有人工验证金标注。 实验涵盖前沿模型、开源模型及 Agent 架构,发现单次提取在准确性上优于四种分步 Agent 架构。 研究指出当前系统在长文 RAI 字段上可靠性极低,官方已开源基准、代码及排行榜。

  17. arXiv · ML37

    Transformer 拒止机制中的组件与维度稀疏性研究

    研究揭示了大型语言模型拒止行为的激活引导存在显著的组件与维度稀疏性。在四个开源模型中,仅需引导28%–48%的上游组件即可保留88%–101%的引导效果。 进一步发现,有效信号集中在这部分组件内约50%的残差流维度中,可保留85%–98%的基准效果。该结果发表于COLM 2026会议,相关代码与原始数据已开源。

  18. arXiv · ML33

    Atom-JEPA:用于 3D 原子系统的联合嵌入预测架构

    Atom-JEPA 是一个自监督预训练框架,通过互补的原子级和亚结构级目标,从无标签 3D 结构中学习潜在表征。 该模型在大规模分子和晶体数据集上预训练,并在分子 ADMET 及量子化学性质预测任务中达到最先进水平,在晶体材料物理性质预测方面具有高度竞争力。 代码和预训练模型检查点已公开可用。

  19. arXiv · ML22

    Decision-Focused Learning in MDPs: An Occupancy Measure Approach

    论文提出基于占用度量 LP 的 DFL 方法,通过闭式梯度与随机行草图解决 MDP 中 KKT 方法的扩展性问题。 该方法引入增强拉格朗日代理与软状态聚合层,使方法可扩展至大状态空间及连续状态 MDP。 在多项任务中,该方法实现比 KKT 型 DFL 和两阶段基线更低的 regret 及更低的计算成本。

  20. arXiv · ML34

    Tram-FL 通过去中心化联邦学习中的顺序模型循环降低通信与计算成本

    Tram-FL 采用单一模型在节点间顺序循环训练,旨在最小化去中心化联邦学习的计算与通信开销。 算法通过量化动量减少模型循环次数并控制单次传输负载,在解决非独立同分布数据导致的资源浪费方面表现有效。 实验表明该方法能在降低资源消耗的同时,使模型收敛至全局最优,即使面对非独立同分布数据亦然。

  21. arXiv · ML42

    WASD: 基于 Wasserstein 距离的大语言模型知识蒸馏方法

    提出了名为 WASD 的大语言模型知识蒸馏方法,通过结合基于 Wasserstein 距离和词嵌入构建的成本矩阵,在离散概率分布对齐中引入词元级语义信息。 该方法采用 Sinkhorn 散度确保计算可行性,并推导出可高效优化的梯度等价目标函数,无需引入额外网络。 在多个 LLM 家族和规模上的实验表明,WASD 在指令遵循、数学推理和代码生成等多样化任务上持续提升了蒸馏性能。

  22. arXiv · ML26

    What Must Replay Preserve? Separating Correctable Bias from Class Correspondence 在类增量学习中的诊断框架分析

    研究提出诊断框架,将缓存预测视为时间异质监督,分离后续学习类与存储已知类的编辑影响。在 CIFAR-100 上,固定常数替代未刷新的后续类分数,在 1 个百分点等效范围内有效,任务级偏移将删除匹配的成本从 14.9 降至 1.8 点,而破坏类对应关系的成本分别为 4.3 和 4.0 点且持续存在。该框架揭示了可校正偏差与类对应关系的区别,为类增量学习中的重放机制提供新见解。

  23. arXiv · ML22

    Stock-JEPA:基于先验锚定的潜空间修订表征学习在股票市场中的应用

    Stock-JEPA 提出了一种联合嵌入预测框架,通过学习相对于金融先验的可预测增量修订来表征股票市场结构。 该方法利用低复杂度金融模型生成固定统计量作为锚点,通过上下文条件修订预测器估计未来表征位移,并证明最优修订能减少先验锚点的期望平方误差。 实验显示 Stock-JEPA 在大规模中美股票市场中,在 5 项关键评估指标上优于 13 个强基线模型。

  24. OpenAI (X)68

    OpenAI 发布内部前沿模型产生的新数学成果

    OpenAI 发布由内部前沿模型产生的广泛新数学成果,并声明参考了高等研究院独立数学与人工智能顾问组的建议及公开建议来确定发布方式,相关结果发布于 GitHub 仓库 openai/math。

    推荐理由:原文说明了发布渠道和咨询独立数学顾问组的过程,读者可据此了解AI生成数学成果的披露方式。