跳到正文
arXiv · ML· Dai Shi, Xiaoyu Li, Andi Han, Jos\'e Miguel Hern\'andez-Lobato·· 16 小时前AI 评分42

神经网络特征叠加:从理论到实践

Feature Superposition in Neural Networks: From Theory to Practice

AI 导读

该研究系统梳理神经网络特征叠加理论,并按声明强度对实践中的恢复方法进行了分级评估。 理论上指出单个线性映射读取特征需接近二次方宽度,而稀疏优化仅需线性宽度;实践中将稀疏自编码器等恢复方法分为四个类别。 研究评估了现有未解决问题,明确了训练网络特征识别中理论与经验层面的剩余挑战。

来源:arXiv · ML · arxiv.org