arXiv · AI· Mingxin Li, Enge Song, Yueshang Zuo, Xiaodong Liu, Rong Wen, Qiang Fu, Gianni Antichi, Jian He, Jing Tie, Zhou Shao, Xiaobo Xue, Xiong Xiao, Luyao Zhong, Shaokai Zhang, Jiangu Zhao, Jianyuan Lu, Shize Zhang, Xiaoqing Sun, Changgang Zheng, Zihao Fan, Haonan Li, Tian Pan, Xiaomin Wu, Yang Song, Xing Li, Biao Lyu, Meng Li, Haipeng Dai, Guihai Chen, Shunmin Zhu·· 7 小时前AI 评分42
云规模 MCP Gateway 系统:LLM 智能体工具访问的扩展方案
Scaling LLM Agent Tool Access: The MCP Gateway
AI 导读
云规模 MCP Gateway 系统通过转换模块支持 315 个 OpenAPI 服务,利用混合检索引擎将智能体工具访问扩展至 3000+ 个工具。 系统采用会话感知路由解耦网关与服务层扩展性,并整合不兼容的 MCP 传输变体;混合检索引擎在扩展到 3000+ 工具时维持约 98% 的 Top-15 召回率。
来源:arXiv · AI · arxiv.org