跳到正文
arXiv · ML· Ander Artola Velasco, Dimitrios Rontogiannis, Stratis Tsirtsis, Manuel Gomez-Rodriguez·· 9 小时前AI 评分29

LLM 服务市场中的测试时算力博弈:非效率性与反向第二价格拍卖机制

Test-Time Compute Games

AI 导读

研究显示,LLM-as-a-service 市场存在社会低效率,云服务商有动力增加测试时算力投入,即便这很少提升输出质量。 为纠正此偏差,文章提出一种反向第二价格拍卖机制:服务商就价格与预期质量竞价,用户按中标方相对第二高投标方的边际价值比例付费。 实验在 Llama、Qwen 及 DeepSeek-R1 蒸馏模型上验证该机制,测试数据集涵盖数学与科学基准。

来源:arXiv · ML · arxiv.org