跳到正文
arXiv · NLP· Yang Liu, Zhiqiang Yuan, Shu-Dong Huang, Jiancheng Lv, Liwei Yang, Qiwei Yan, Kailin Lv, Jinchao Zhang·· 3 小时前AI 评分31

ULME 提出预测耦合框架,统一嵌入与语言建模任务

ULME: Predictive Coupling for Mutually Reinforcing Embedding and Language Modeling

AI 导读

ULME 是一个基于因果解码器架构的后训练框架,通过可学习槽位和联合损失函数,在 Qwen2.5 和 Qwen3 模型家族(0.5B 至 8B 参数规模)上实现了嵌入与生成任务的真正统一。

来源:arXiv · NLP · arxiv.org