arXiv · ML· Annabelle Sujun Tang, Christopher Priebe, Lianhui Qin, Hadi Esmaeilzadeh·· 9 小时前AI 评分33
MOSAIC 框架：通过协作推理降低 LLM 编译器优化成本
MOSAIC: More LLMs, Less Cost through Collaborative Reasoning for Compiler Optimizations
AI 导读
论文提出 MOSAIC 框架，利用多 LLM 协作在编译器优化中降低 API 成本。 实验表明，MOSAIC 使用 8 个模型使几何平均加速比提升 7.2%，API 成本降低 4.47 倍。 该方法通过树搜索协调模型选择，证明随机选择模型仅能带来 2.5% 的收益。
来源：arXiv · ML · arxiv.org