FARO提出函数空间自适应LLM优化器

Xiaojun Wu 等研究者提出名为FARO的函数空间自适应优化器。该框架以参数块划分为决策单位，根据各参数块的实际反事实回报分配几何结构，并依据组合理论中的等风险贡献原则重新分配冻结预算，无需人工预设层级几何即可恢复最优配方。 在GPT风格模型测试中，FARO-ERC 相比基线平均降低 0.0136 nats 的干净数据损失。该结果在 6 个随机种子中均显著，且无需增加额外时间或内存开销。目前，相关源码已公开。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。