arXiv · AI· Ruotong Wang, Brian S. Yu, Xinyi Zhou, Joseph Chee Chang, Pao Siangliulue, Jonathan Bragg, Liwei Jiang, Amy X Zhang·· 12 小时前AI 评分33
PITCH 基准测试揭示 AI 主动代理在多方聊天中时机判断的系统性偏差
When Should AI Chime In? Benchmarking Timely Contribution of Proactive Agents in Multi-Party Chat
AI 导读
研究提出 PITCH 基准,首次通过人类判断评估 AI 主动代理在多方聊天中的介入时机,包含 384 个候选贡献和 1,091 个判断。 评估 15 个模型发现,当要求实时决定时,模型最佳轮次准确率从 57.8% 降至 19.0%,且近半数介入早于可接受窗口;普通人类准确率(23.7%)反而高于模型。 模型推理痕迹显示 93% 的介入理由引用相关性,几乎无人考虑等待,暴露出代理融入群体场景的缺陷。
来源:arXiv · AI · arxiv.org