arXiv · ML· Ivan Rubachev, Nikita Lazarev, Artem Babenko·· 9 小时前AI 评分28
表格 ML 中的数据扩展：更多数据带来更好的泛化吗？
On Data Scaling in Tabular ML: More Data, Better Generalization?
AI 导读
研究通过 8 个最大含千万级样本的表格数据集发现，GBDT 和 MLP 模型扩展趋势相似，而表格基础模型在分布偏移下随上下文增大获益更一致。 在强分布偏移下，MLP 使用代表评估条件的验证数据进行选择时性能可维持或提升；而基础模型将此类样本纳入上下文虽提升当前性能，却未能防止随着训练数据规模增加导致的性能衰退。
来源：arXiv · ML · arxiv.org