Hugging Face Blog·· 2020-03-01AI 评分55
Transformers 中语言生成解码方法详解:贪心、束搜索与采样策略
How to generate text: using different decoding methods for language generation with Transformers
AI 导读
Hugging Face 发布教程详解 Transformers 库中语言生成的解码方法。文章通过代码示例演示了贪心搜索、束搜索、随机采样、Temperature 调节、Top-k 及 Top-p(Nucleus)采样的实现方式。指出 Top-k 和 Top-p 采样在开放式语言生成中通常比贪心和束搜索能产生更连贯的文本,并建议根据具体使用场景选择最优解码策略。
来源:Hugging Face Blog · huggingface.co