跳到正文
arXiv · ML· Hardik Rajpal, Dan Goodman·· 23 小时前AI 评分28

循环神经网络低维表示涌现泛化机制

Emergent Generalization by Representation Learning in Artificial Neural Networks

AI 导读

研究证实,强制循环神经网络学习低维表示是时间序列预测中旋转及分布外泛化的必要条件。 利用因果涌现信息论度量,发现表示动态在记忆到泛化转换中呈非单调轨迹,该结构幅度可预测泛化性能。 大鼠海马CA1及内侧前额叶活动揭示类似涌现动态,支持学习表示在认知中发挥因果作用。

来源:arXiv · ML · arxiv.org