arXiv · NLP· Hanyu Liao, Yijing Chen, Tao Ji·· 4 小时前AI 评分23
ARMOR-DP 为多语言 BabyLM 提供动态采样框架
When the Weakest Language Keeps Moving: ARMOR-DP for Multilingual BabyLM
AI 导读
ARMOR-DP 提出一种模块化框架,通过逐语言验证损失动态更新采样比例,以应对多语言模型训练中弱势语言的实时变化。 实验表明,字节级编码可消除中文表示偏差,且动态控制器在分数与平衡的权衡上优于固定保护策略。 该研究证实多语言弱势是训练时状态而非固定属性,该论文已被 EMNLP 2026 BabyLM 研讨会接收。
来源:arXiv · NLP · arxiv.org