arXiv · AI· Ahasan Kabir, Mengxin Zheng, Qian Lou·· 6 小时前AI 评分30
INFRAMIND:基础设施感知的多智能体编排
INFRAMIND: Infrastructure-Aware Multi-Agent Orchestration
AI 导读
论文提出 INFRAMIND,一种根据服务负载动态调整多智能体推理工作流的层次化策略。 在 500 道 MATH 题且截止时间为 10-300 秒的场景中,INFRAMIND 将按时正确率从 20.4% 提升至 33.8%;使用 15 个模型时,该比例从 11.6% 升至 54.8%。 结果证实了将推理决策适应整个工作流的服务容量的重要性。
来源:arXiv · AI · arxiv.org