arXiv · AI· Jad Yehya, Andrei-Tiberiu Pantea, Aymeric Dieuleveut, Matthieu Kowalski, Thomas Moreau·· 7 小时前AI 评分23
时间序列基础模型中 patch 尺寸效应研究
Investigating the effects of the patch size in Time Series Foundation Models
AI 导读
基于 97 个 GIFT-Eval 任务对比显示,encoder-only 模型在较小 patch 下表现更优,而 decoder-only 模型呈 U 型趋势且最优 patch 随预测范围增大。 encoder-only 在超过 2048 上下文长度后增益递减,decoder-only 具备更低 CPU 延迟与训练成本优势。 研究表明架构与 patch 尺寸选择需依据预测范围和部署约束权衡。
来源:arXiv · AI · arxiv.org