arXiv · AI· Hunjae Lee, Corey Clark·· 4 小时前AI 评分32
动态关系增强注意力机制在Transformer中改进多元时间序列预测
Dynamic Relational Priming Improves Transformer in Multivariate Time Series
AI 导读
提出动态关系增强注意力机制（Prime Attention），在保持与标准注意力相同渐近计算复杂度的前提下，通过可学习调制为每个token交互定制表示。该机制在基准测试中预测精度最高提升6.5%，且使用较少序列长度即可获得相当或更优性能。
来源：arXiv · AI · arxiv.org