arXiv · ML· Xiaojun Wu, Cehao Yang, Xuhui Jiang, Chengjin Xu, Jia Li, Jian Guo·· 4 小时前AI 评分20
FARO：通过跨区块等风险贡献预算分配实现函数空间自适应回报优化
FARO: Function-Space Adaptive Return-to-Risk Optimization via Cross-Block Equal-Risk-Contribution Budget Allocation
AI 导读
FARO 提出一种函数空间自适应优化器，依据各参数块的实际反事实回报分配几何结构，并按组合理论中的等风险贡献原则重新分配冻结预算。 在 GPT 风格模型上，FARO-ERC 相比基线平均降低 0.0136 nats 的干净数据损失，该结果在 6 个随机种子中均显著且无需增加额外时间或内存开销。 源码已公开，该框架无需人工预设层级几何即可恢复人工设计的最优配方。
来源：arXiv · ML · arxiv.org