PRISM框架提升LLM采样多样性

2026年10月26日，Qixin Xu等人在arXiv cs.lg领域提出PRISM训练框架，旨在解决大语言模型的模式坍塌问题。该框架通过隐式随机调制将多样性内化于模型内部，结合子模选证配对的多元多教师解决方案与随机嵌入调制。 PRISM将特殊标记扰动转化为生成不同输出的隐式信号。在WritingPrompts和BookMIA等基准测试中，PRISM在所有模型设置中实现了最佳生成质量，同时维持了最强的语义多样性。 此外，PRISM还提升了数学和代码基准的采样效率，为强化学习提供了更稳固的基础。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。