跳到正文
arXiv · NLP· Jinyang Li, Denis Emelin, Simone Tedeschi, Weiwei Cheng, Cristina Morariu, Haytham Assem, Jens Lehmann, Emine Yilmaz, Angus Addlesee·· 6 小时前AI 评分20

RouterWorld:基于延迟感知 LLM 路由扩展对话式 AI

RouterWorld: Scaling Conversational AI with Latency-Aware LLM Routing

AI 导读

summary_zh: RouterWorld 发布,这是一个针对对话式 GenAI 中 LLM 路由的综合基准,旨在平衡答案质量与响应延迟。它统一了 371k 单轮响应和 76k 多轮 agentic 轨迹,采用 LLM-as-a-judge 协议。

来源:arXiv · NLP · arxiv.org