跳到正文
arXiv · AI· Marco Giunti, Fabrizia Giulia Garavaglia·· 4 天前AI 评分35

Transformer 范式:动态处理与推理新原则

The Transformer Paradigm: Dynamic Processing and a New Principle of Inference

AI 导读

研究指出 Transformer 革命并非深度学习量化扩张,而是基于不同推理原则的新范式。在推理过程中,部分变换由当前输入动态构建,先前获取的变换先适配再应用。 该动态处理通过输出权重互连实现,称为序列级交互动态并行处理(SIDPP)。SIDPP 框架解释了强提示词敏感性,并开启了关于可解释性、控制及神经形态系统的研究方向。

来源:arXiv · AI · arxiv.org