arXiv · NLP· Yichuan Chen, Xin Wang·· 3 小时前AI 评分26
重复循环何时锁定?截断采样、有界惩罚与 DRY 的盲区
When Do Repetition Loops Lock? Truncation Sampling, Bounded Penalties, and a Blind Spot in DRY
AI 导读
研究发现 DRY 采样器在重复循环中存在盲区,其序列终止符限制惩罚上限导致无法保证逃逸。 在 11 个开源模型测试中,$g=6$ 的锁定单元有 66% 在 DRY 下保持锁定,而 $g=8$ 仅占 1%。 提出的 DRY-C 变体通过指数增长项解决该问题,使 720 次结构化生成中无一例循环至长度上限。
来源:arXiv · NLP · arxiv.org