arXiv · NLP· Antonio Franca, Alexander Tong·· 4 小时前AI 评分24
为何无条件文本生成需要新指标：生成困惑度（Gen-PPL）的缺陷与替代方案分析
Hacking Generative Perplexity: Why Unconditional Text Evaluation Needs New Metrics
AI 导读
生成困惑度（Gen-PPL）作为扩散语言模型非自回归生成的标准指标被证明不可靠。研究构建了四个免训练采样器，在保持非退化单字词熵的同时，在 LM1B 和 OpenWebText 数据集上达到或超越训练模型 Gen-PPL 基准，却生成了结构上无连贯性的文本。
来源：arXiv · NLP · arxiv.org