跳到正文
arXiv · ML· Hanbin Bae, Heejin Choi, Joohyung Lee, Byoung Jin Choi, Sangjun Park, Hoon-Young Cho·· 2026-10-16AI 评分31

HyCo:用于成本高效移动-云推测解码的混合起草

HyCo: Hybrid Drafting for Cost-Efficient Mobile-Cloud Speculative Decoding

AI 导读

HyCo 在 Galaxy S26 Ultra 上通过 LTE/5G 实现移动-云推测解码,将服务器 GPU 时间每输出 token 降低 38.6% (Spec-Bench) 和 29.2% (32K-token 摘要)。

来源:arXiv · ML · arxiv.org