arXiv · NLP· Hyeseon An, Shinwoo Park, Hyundong Jin, Yo-Sub Han·· 6 小时前AI 评分38
SWAI：基于Logit层干预的大语言模型无训练生成控制方法
Steering Language Models Before They Speak: Logit-Level Interventions
AI 导读
summary_zh: 研究人员提出SWAI，这是一种无需训练的推理时方法，直接在大语言模型的logit空间进行干预。 该方法利用语料库推导的token统计量，计算z归一化的一对余log-odds得分，并仅针对模型top-K候选集中的高分token施加偏差，以控制可读性、礼貌性和毒性等输出特征。
来源：arXiv · NLP · arxiv.org