arXiv · ML· Ziyang Luo, Zhongyao Chu, Xinjie He, Youting Wang, Xukui Qin, Runxiong Wu, Yan-Syuan Chen·· 18 天前AI 评分39
YOPO 在单次前向传播中实现语言模型的答案与弃权
You Only Pass Once: Answering and Abstaining Together in a Single Forward Pass of a Frozen Language Model
AI 导读
研究提出 YOPO 框架,在不改变权重的前提下,于冻结语言模型单次前向传播中同时完成答案生成与弃权。 通过中间层探针向量修正与弃权方向评分,YOPO 将 Qwen2.5-1.5B 在 $\alpha$NLI 的准确率从 51% 提升至 73%,三路准确率从 0.38 提升至 0.75。
来源:arXiv · ML · arxiv.org