arXiv · NLP· Jihao Zhao, Shuaishuai Zu, Pengfei Li, Biao Qin, Guanghuan Fang, Ben Feng, Baochuan Yang·· 2 小时前AI 评分40
TraceSpec: 理解并改进 LLM 智能体的投机解码
TraceSpec: Understanding and Improving Speculative Decoding for LLM Agents
AI 导读
TraceSpec 提出连接轨迹评估与自适应草稿训练的框架，并引入包含 1 万个训练状态和 2500 个测试状态的 TraceSpec-Traj 语料库，涵盖浏览与软件工程场景。
来源：arXiv · NLP · arxiv.org