跳到正文
热点事件持续更新

Jianguo Huang等提出UAA框架优化LLM树搜索预算分配

1 篇报道1 个报道来源7 小时前更新

先了解这件事

AI 综述

研究人员Jianguo Huang等提出了一种名为UAA(Uncertainty-Aware Budget Allocation)的无需训练框架,旨在提升大语言模型树搜索的效率。该框架的核心创新在于将价值评估与不确定性估计解耦,通过利用兄弟动作的语义离散度来估算不确定性,从而在节点扩展前预先确定子树的计算预算。 在数学、逻辑和规划等基准测试中,UAA框架展示了显著的性能提升。测试结果显示,在保持同等任务精度的前提下,该框架最多可减少90%的Token使用量,并将处理延迟降低最多9倍。这些指标证明了UAA在优化LLM推理成本与效率方面的潜在价值。

AI 根据报道生成 · 6 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月19日
  1. arXiv · NLP
    Uncertainty-Aware Budget Allocation 框架提升 LLM 树搜索效率

    研究人员提出无需训练的 UAA 框架,将价值与不确定性解耦以优化 LLM 树搜索。该框架利用兄弟动作的语义离散度估计不确定性,从而在扩展前确定子树预算。在数学、逻辑和规划基准测试中,UAA 在保持同等精度的前提下,最多减少 90% 的 token 使用量,并将延迟降低最多 9 倍。

本事件热度走势

可比范围当前
8
可比范围峰值
1010月19日 13:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。