arXiv 发布 TVP 推测解码研究
热点事件持续更新
arXiv 发布 TVP 推测解码研究
1 篇报道1 个报道来源7 小时前更新
先了解这件事
AI 综述
10 月 31 日,Aaryam Sharma 在 arXiv(cs.lg)发布论文《TVP: TV is Almost All You Need for Speculative Decoding》。该研究提出基于期望接受长度的 TVP 损失函数,通过调节权力参数平衡覆盖与接受目标。11 月 3 日,相关报道显示 TVP 在三种 drafter 架构和三个目标模型上实现最高或并列最高接受长度。微调时,TVP 比交叉熵损失提升接受长度 9.8%,比公开 DFlash2 方案提升 6.2% 至 12.9%。
AI 根据报道生成 · 1 小时前更新
最新进展11月3日 13:00
TVP:专为投机解码设计的接受长度损失函数报道时间线
沿着报道,了解事件的不同侧面。
11月3日
- arXiv · MLTVP:专为投机解码设计的接受长度损失函数
研究提出基于期望接受长度的损失族TVP,通过调节权力参数平衡覆盖与接受目标。 TVP在三种drafter架构和三个目标模型上实现最高或并列最高接受长度。微调时TVP比交叉熵损失提升接受长度9.8%,比公开DFlash2训练方案提升6.2至12.9%。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。