时序基础模型补丁尺寸研究发表

Jad Yehya等人发表了一篇关于时序基础模型中patch尺寸效应的研究论文。该研究基于97个GIFT-Eval任务进行对比，发现encoder-only模型在较小patch尺寸下表现更优，而decoder-only模型呈现U型趋势，其最优patch尺寸随预测范围增大而变化。 在性能与成本方面，研究发现当上下文长度超过2048时，encoder-only模型的增益开始递减。相比之下，decoder-only架构具备更低的CPU延迟与训练成本优势。 研究结论指出，在实际应用中，架构选择与patch尺寸设定需依据具体的预测范围及部署约束进行权衡，不存在通用的最优配置。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。