Transformer架构优化研究

1. 13:00
   arXiv · AI

   状态预测分离假设：Transformer 架构优化研究

   提出状态预测分离假设，设计独立计算流 Transformer 变体以提升语言建模性能。 实验表明该架构显著优于标准 Transformer，在下游任务平均提升 2-3 个百分点，验证了计算效率优势。

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。