arXiv · ML· Niclas G\"oring, Shuofeng Zhang, Branton DeMoss, Ard A. Louis·· 8 小时前AI 评分26
基于表征质量推导确定性神经网络的紧致泛化界
Escaping Parameter Space: Tight Generalization Bounds via Representation Quality
AI 导读
该研究基于最后一隐层表征推导确定性神经网络的紧致泛化界,利用无参数 k-NN 分类器评估表征质量,避免了参数空间复杂度等度量。 该界具有紧致性:在 CIFAR-10(ResNet-18)上与测试误差差距为 8.0 个百分点;使用冻结的 DINOv2 表征时,在 CIFAR-10 上泛化界为 1.4%,在 ImageNet 上为 23.1%。
来源:arXiv · ML · arxiv.org