跳到正文
arXiv · ML· Jarvist Moore Frost·· 3 天前AI 评分30

自注意力机制是多体机器学习中的 Dyson 方程

Self-attention is a Dyson equation for many-body machine learning

AI 导读

自注意力机制被证明是实空间 Dyson 迭代,其 Boltzmann 核充当二体自能。 该机制能捕捉关联物质中的非局域二体关联,弥补 DeepSets 均值场模型缺陷。 研究阐释了注意力机制在双体相互作用宇宙中有效性的物理本质。

来源:arXiv · ML · arxiv.org