arXiv · NLP· Jihao Zhao, Ding Chen, Yanfang Chen, Bo Tang, Feiyu Xiong, Junchi Yan, Zhiyu Li·· 11 天前AI 评分23
RouteAlign:通过任务需求与模型画像对齐实现 LLM 服务选择
RouteAlign: Aligning Task Requirements with Model Profiles for LLM Service Selection
AI 导读
提出 LLM 服务选择方法 RouteAlign,利用任务需求结构化模型性能测量与服务选择。 方法通过历史需求构建全局画像与局部能力估计,并结合生成成本偏好控制决策。 在多样任务与异构 LLM 服务上的评估显示,该方法将实证质量-成本前沿推向更高任务质量,且在对比中取得更低生成成本。
来源:arXiv · NLP · arxiv.org