跳到正文
arXiv · AI· Xingyu Yan, Tingting Dai, Antonio De Domenico, Mohamed Sana, Nicola Piovesan, Changchang Li, Bowen Liu, Kun Jiang, Mengjie Zhang, Dingcheng Shan, Jing-Cheng Pang, Chenwei Wu, Sijie Wu, Lianying Chao, Haoran Cai, Jiantao Ye, Xubin Li, Simon Mark Lucas, Xin Chen·· 16 小时前AI 评分28

CTBench:评估AI智能体在电信网络运维中的故障排除能力

CTBench: Evaluating Troubleshooting Capabilities of AI Agents in Realistic Telecom Network Operations

AI 导读

研究提出公开基准CTBench,评估AI智能体在电信网络根因分析和路径恢复中的故障排除能力。 该基准由领域专家构建,包含丰富元数据和黄金证据轨迹,评估指标涵盖最终准确率与诊断推理。 评估显示最新智能体在路径端点识别上表现优异,但根因分析严重不足;即使答案正确,也常缺乏操作实践所需的诊断证据,且增加计算投入不能保证诊断能力提升。

来源:arXiv · AI · arxiv.org