跳到正文
arXiv · NLP· Amit Ranjan Trivedi, Sruthikesh Surineni, Kyong Ho Lee, Mohit Mittal, Steven Li, Rex Hill·· 8 小时前AI 评分24

轨迹触发的稀疏协作解码方法研究

Trajectory-Triggered Sparse Collaborative Decoding

AI 导读

稀疏协作解码中,局部不确定性特征对目标模型调用时机的预测能力接近随机水平(AUC 0.50-0.53),而基于草稿置信度路径的轨迹形状特征可将预测准确性提升至 AUC 0.86。

来源:arXiv · NLP · arxiv.org