跳到正文
arXiv · ML· Aritra Das, Francesco Cagnetta, Darshil Doshi, Victor V. Albert, Maissam Barkeshli, Andrey Gromov·· 2 天前AI 评分29

Tree-grams:层次化 n-gram 模型作为语言的受控近似器

What's in a Tree ? Hierarchical $n$-gram models as controlled approximators of language

AI 导读

研究者提出 Tree-grams,这是一种通过二阶和三阶张量层次化组合构建条件概率的自回归生成 n-gram 模型,其性能超越传统 n-gram 基线并可与深度 Transformer 语言模型竞争。

来源:arXiv · ML · arxiv.org