arXiv · AI· David A. Ehrlich, Manuel Baltieri, Fernando E. Rosas, Alexander B. Boyd·· 8 小时前AI 评分30
交互智能体反馈中的信念：Transformer 中的分解表示
Beliefs in feedback: Factored representations of interacting agents in transformers
AI 导读
研究证明，在反馈回路中交互的智能体联合随机过程可表示为由隐马尔可夫模型生成的分解贝叶斯信念。 实验显示，训练于此类序列的 Transformer 利用这种可分离性，将信念解耦到残差流的不同子空间中，且维度随智能体数量线性增长而非指数增长。
来源：arXiv · AI · arxiv.org