跳到正文
arXiv · ML· Thomas Woehrle, Linus Ericsson, Henry Gouk, Elliot J. Crowley·· 3 天前AI 评分21

einspaceAR 搜索空间支持从零构建自回归序列模型

Searching for Autoregressive Neural Architectures from Fundamental Operations

AI 导读

作者将 einspace 搜索空间扩展为 einspaceAR,支持仅基于基本操作表示并搜索自回归序列模型。 该扩展避免了强归纳偏置,实验证明 einspaceAR 能从零发现具备能力的自回归模型。 作者认为 einspaceAR 将成为 NAS 工具箱的有用部分,并作为其他表达性搜索空间集成自回归建模的蓝图。

来源:arXiv · ML · arxiv.org