arXiv · NLP· Amit Ranjan Trivedi, Sruthikesh Surineni, Kyong Ho Lee, Mohit Mittal, Steven Li, Rex Hill·· 8 小时前AI 评分24
轨迹触发的稀疏协作解码方法研究
Trajectory-Triggered Sparse Collaborative Decoding
AI 导读
稀疏协作解码中,局部不确定性特征对目标模型调用时机的预测能力接近随机水平(AUC 0.50-0.53),而基于草稿置信度路径的轨迹形状特征可将预测准确性提升至 AUC 0.86。
来源:arXiv · NLP · arxiv.org