arXiv · ML· Peiwang Tang, Cheng HE, Yupeng Ye, Weitai Zhang, Qinghua Sun, Defu Lian·· 5 小时前AI 评分24
时序分析预训练框架 TimeHAT 提出混合注意力 Transformer
Learning from Points and Patches: A Pre-trained Hybrid Attention Transformer for Time Series Analysis
AI 导读
TimeHAT 提出通用时序预训练框架，通过统一点-补丁掩码策略与混合注意力编码器应对异构时序数据。 该框架结合点级与补丁级监督，并在编码器中采用前缀约束双向注意力与方向性混合注意力。 论文代码已开源，在分类、预测、填补及异常检测任务中展现竞争力。
来源：arXiv · ML · arxiv.org