arXiv · ML· Yalda Shabanzadeh, Diyuan Wu, Marco Mondelli·· 8 小时前AI 评分29
Minimax-optimal Scaling Laws in Ridge Regression via Transfer Learning
Minimax-optimal Scaling Laws in Ridge Regression via Transfer Learning
AI 导读
在高维岭回归迁移学习框架中,通过确定对等分析证明特定参数下缩放定律达成 Minimax 最优指数。该最优源模型正则化仅依赖源数据,且单遍随机梯度下降微调整合能实现同等最优速率。实验验证了该理论在合成设置及语言模型中的有效性。
来源:arXiv · ML · arxiv.org