arXiv · ML· Thomas Woehrle, Linus Ericsson, Henry Gouk, Elliot J. Crowley·· 3 天前AI 评分21
einspaceAR 搜索空间支持从零构建自回归序列模型
Searching for Autoregressive Neural Architectures from Fundamental Operations
AI 导读
作者将 einspace 搜索空间扩展为 einspaceAR,支持仅基于基本操作表示并搜索自回归序列模型。 该扩展避免了强归纳偏置,实验证明 einspaceAR 能从零发现具备能力的自回归模型。 作者认为 einspaceAR 将成为 NAS 工具箱的有用部分,并作为其他表达性搜索空间集成自回归建模的蓝图。
来源:arXiv · ML · arxiv.org