arXiv · AI· Zhen Yang, Xiaogang Xu, Wen Wang, Cong Chen, Xander Xu, Ying-Cong Chen·· 5 小时前AI 评分43
StreamMA:通过流式通信优化多智能体推理系统的延迟与效果
Streaming Communication in Multi-Agent Reasoning
AI 导读
StreamMA 提出一种多智能体推理系统,将推理步骤即时流式传输至下游,实现流水线并行以显著降低端到端延迟。该方法在八个基准测试中优于串行和单智能体基线,平均提升 7.3 个百分点,HMMT2026 上最高提升 22.4 个百分点。实验显示,步骤级缩放定律能同时提升推理有效性与效率,成为与智能体数量缩放正交的新维度。
来源:arXiv · AI · arxiv.org