arXiv · NLP· Prakhar Gupta, Terry Jingchen Zhang, Zhijing Jin·· 8 小时前AI 评分33
语言模型多项偏误源于同一预训练回路，后训练调节其激活
Many Biases, One Circuit: Post-Training Tunes a Pretrained Cue-Routing Mechanism
AI 导读
研究表明语言模型多项偏误依赖同一预训练回路，后训练调节其激活。 微调基座模型约 200 个通用助手示例可激活该回路，RL 阶段增强线索效果。 可针对性干预该回路以缓解多项选择偏误。
来源：arXiv · NLP · arxiv.org