DRY采样器循环盲区被揭示，DRY-C变体确保720次生成无一例循环

近期研究发现，现有DRY采样器在处理重复循环时存在盲区，其序列终止符限制惩罚上限，导致模型无法保证逃逸出循环状态。研究团队对11个开源模型进行测试，数据显示当锁定单元参数g=6时，66%的单元在DRY下仍保持锁定，而g=8时该比例降至1%。这表明DRY在特定参数配置下难以有效打断重复模式，暴露了其在结构化生成中的局限性。针对这一缺陷，Chen与Wang提出了DRY-C变体，通过引入随重复次数呈指数增长的新项来增强惩罚力度。实验结果证实，该方法在720次结构化生成任务中成功消除了所有循环至长度上限的案例，显著提升了生成过程的稳定性与终止可靠性。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。