Jianguo Huang等提出UAA框架优化LLM树搜索预算分配
热点事件持续更新
Jianguo Huang等提出UAA框架优化LLM树搜索预算分配
1 篇报道1 个报道来源7 小时前更新
先了解这件事
AI 综述
研究人员Jianguo Huang等提出了一种名为UAA(Uncertainty-Aware Budget Allocation)的无需训练框架,旨在提升大语言模型树搜索的效率。该框架的核心创新在于将价值评估与不确定性估计解耦,通过利用兄弟动作的语义离散度来估算不确定性,从而在节点扩展前预先确定子树的计算预算。 在数学、逻辑和规划等基准测试中,UAA框架展示了显著的性能提升。测试结果显示,在保持同等任务精度的前提下,该框架最多可减少90%的Token使用量,并将处理延迟降低最多9倍。这些指标证明了UAA在优化LLM推理成本与效率方面的潜在价值。
AI 根据报道生成 · 6 小时前更新
最新进展10月19日 12:00
Uncertainty-Aware Budget Allocation 框架提升 LLM 树搜索效率报道时间线
沿着报道,了解事件的不同侧面。
10月19日
- arXiv · NLPUncertainty-Aware Budget Allocation 框架提升 LLM 树搜索效率
研究人员提出无需训练的 UAA 框架,将价值与不确定性解耦以优化 LLM 树搜索。该框架利用兄弟动作的语义离散度估计不确定性,从而在扩展前确定子树预算。在数学、逻辑和规划基准测试中,UAA 在保持同等精度的前提下,最多减少 90% 的 token 使用量,并将延迟降低最多 9 倍。
本事件热度走势
- 可比范围当前
- 8
- 可比范围峰值
- 1010月19日 13:00
- 近 24 小时变化
- –
02.557.510
13:0014:0015:0016:0017:0018:0019:00
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。