跳到正文
arXiv · ML· Xuchen Gong, Junfei Sun, Tian Li·· 2026-10-06AI 评分23

语言模型混合梯度 Top-k 选择的原理性方法

Principled Top-$k$ Selection for Language Models with Hybrid Gradients

AI 导读

该研究提出了用于训练语言模型 Top-k 选择模块的原理性目标函数,其梯度包含监督梯度和策略梯度两种组件,能提供更丰富的训练信号。该方法在 RAG 文档选择和 MoE 专家路由任务中优于基线模型,收敛速率为 O(1/√T)。

来源:arXiv · ML · arxiv.org