跳到正文
热点事件持续更新

DecisionPivot基准发布

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

研究者推出DecisionPivot诊断基准,用于评估LLM系统决策模型在受控变化下的可靠性。该基准包含48项任务和40,033个条目,涵盖13个生成任务家族。 在基准评估中,Perplexity Decider在2,400个二元对比对中的正确排序率达到92.3%。但数据显示,仅有74.1%的样本能同时答对两者,揭示了模型可靠性方面的不足。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月21日
  1. arXiv · AI
    DecisionPivot:用于LLM系统中决策模型的诊断基准

    研究者推出包含48项任务、40,033个条目的DecisionPivot诊断基准,用于评估LLM系统决策模型在受控变化下的可靠性。 基准涵盖13个生成任务家族的7,800个核心条目及32,233个参考条目,在2,400个二元对比对中,Perplexity Decider正确排序率达92.3%但仅74.1%能同时答对两者。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。