arXiv · ML· Qixin Xu, Zihan Zhu, Xiaojiang Liu, Bohan Lyu·· 5 小时前AI 评分40
PRISM：通过隐式随机调制提升大语言模型采样多样性的训练框架
PRISM: Promoting Sampling Diversity of Large Language Models with Implicit Stochastic Modulation
AI 导读
PRISM 是一个将多样性内化于模型内部的训练时框架，旨在解决 LLM 的模式坍塌问题。它结合子模选证配对的多元多教师解决方案与随机嵌入调制，将特殊标记扰动转化为生成不同输出的隐式信号。在 WritingPrompts 和 BookMIA 上，PRISM 在所有模型基准设置中实现了最佳生成质量，同时维持了最强的语义多样性，并提升了数学和代码基准的采样效率，为强化学习提供了更稳固的基础。
来源：arXiv · ML · arxiv.org