arXiv · AI· Aaron Spieler, Georg Martius, Anna Levina·· 1 天前AI 评分24
Scaling Laws and Tradeoffs in Recurrent Networks of Expressive Neurons
Scaling Laws and Tradeoffs in Recurrent Networks of Expressive Neurons
AI 导读
论文提出由Expressive Leaky Memory (ELM) 神经元构成的ELM网络，用于研究固定参数预算下单元数量、复杂度和连接度的权衡。 模型在SHD-Adding和Enwik8基准测试中表现单调提升，发现复杂神经元更优，并给出了信息论代理指标和近Pareto前沿的缩放规律。
来源：arXiv · AI · arxiv.org