arXiv · ML· Xingjian Bai, Jia-Hao Liang, Jayden Teoh, Vincent Sitzmann·· 1 天前AI 评分27
反应式优化器 OPAL:利用预训练语言模型智能体动态重写优化器代码
Reactive Optimizers
AI 导读
研究提出反应式优化器 OPAL,利用预训练语言模型智能体在单次训练运行中检查动力学并重写优化器代码。 在语言建模和图像生成任务中,OPAL 匹配或优于固定配方,可调整学习率、精度及动量,并展示了对数据损坏的适应性。 该方案无需针对特定优化器的元训练或跨运行记忆转移,代码已开源。
来源:arXiv · ML · arxiv.org