LinMix 线性数据混合方法发布
热点事件持续更新
LinMix 线性数据混合方法发布
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
2026年10月28日,Hubert Baniecki 等人在 arXiv 预印本上发布论文,提出名为 LinMix 的预训练数据混合方法。该方法基于经典最优实验设计,通过顶点采样替代传统的 Dirichlet 采样机制,利用线性模型计算领域归因以确定最优数据混合权重。 在预训练实验验证中,研究团队在 1B 参数的 OLMo2 和 4B 参数的 Qwen3.5 语言模型上测试了 LinMix。结果显示,LinMix 表现优于基于 Dirichlet 的数据混合策略。具体性能提升方面,该方法在 MBPP 基准上相对提升 46%,在 GSM8K 基准上提升 14%。此外,在 288 个细粒度领域的测试中,LinMix 平均准确率提升了 11%。
AI 根据报道生成 · 1 小时前更新
最新进展10月28日 12:00
LinMix:基于线性领域归因的预训练数据混合方法报道时间线
沿着报道,了解事件的不同侧面。
10月28日
- arXiv · NLPLinMix:基于线性领域归因的预训练数据混合方法
论文提出 LinMix,通过顶点采样替代传统的 Dirichlet 采样,以线性模型计算领域归因并确定最优数据混合权重。 在 1B 参数的 OLMo2 和 4B 参数的 Qwen3.5 预训练实验中,LinMix 在 MBPP 上相对提升 46%,在 GSM8K 上提升 14%,且在 288 个细粒度领域下平均准确率提升 11%。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。