跳到正文
热点事件持续更新

OP-Mix 统一数据混合算法获 NeurIPS 2026 录用

1 篇报道1 个报道来源8 小时前更新

先了解这件事

AI 综述

OP-Mix 是一项跨预训练、持续学习与指令微调的统一数据混合算法,由 Michael Y. Hu 等研究者提出,已被 NeurIPS 2026 录用。 该算法无需独立代理模型,通过插值低秩适配器模拟候选混合策略,将语言模型训练视为单一连续学习过程。 在预训练中,OP-Mix 相比无混合训练降低 6.3% 平均困惑度;在持续学习中,其性能匹配重训与在线策略蒸馏,但计算量分别减少 66% 和 95%。

AI 根据报道生成 · 3 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月30日
  1. arXiv · NLP
    OP-Mix 提出统一数据混合算法,贯穿预训练与持续学习全流程

    OP-Mix 提出跨预训练、中训及指令微调的统一数据混合算法,无需独立代理模型,通过插值低秩适配器模拟候选混合策略。 在预训练中,OP-Mix 相比无混合训练降低 6.3% 平均困惑度;在持续学习中,其性能匹配重训与在线策略蒸馏,但计算量分别减少 66% 和 95%。 OP-Mix 将语言模型训练视为单一连续学习过程,NeurIPS 2026 录用。

本事件热度走势

可比范围当前
8
可比范围峰值
910月30日 17:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。