跳到正文
arXiv · ML· Artur Back de Luca, Kimon Fountoulakis·· 7 天前AI 评分29

示例认证在最小过参数化电路和 Transformer 中难以实现

Certification from Examples is Hard for Circuits and Transformers under Minimal Overparametrization

AI 导读

研究表明最小过参数化使假设认证在多个类别中呈指数级困难。 在深度≥2 阈值电路中,增加单门即可使证书规模随输入维度呈指数增长;对数精度 Transformer 在恒定架构开销下亦有类似结果。 允许多项式错误仍需指数级证书,而常数相对误差保证可能掩盖指数级失败。

来源:arXiv · ML · arxiv.org