跳到正文
arXiv · AI· Jeongho Bang, Marcin Paw{\l}owski·· 1 天前AI 评分21

神经信息因果律:表示学习的随机访问容量定理

Neural Information Causality: A Random-Access Capacity Law for Representation Learning

AI 导读

研究推导出“神经信息因果律”(Neural-IC),证明对独立比特数据库,后续查询可恢复的总信息量受限于物理规定的接口容量,即使存在预置量子资源。 该定律将容量松弛、联合组织信息与答案生成损失分离,展示了内存信息预算高使用率与有限检索能力共存的机制。 该框架为表示学习提供设计原则,通过定位后期答案约束来指导内存分配、编码目标及解码器输出。

来源:arXiv · AI · arxiv.org