arXiv · NLP· Hongsheng Wang, Philipp Koehn·· 2026-10-14AI 评分27
SAE 驱动的推理时语言引导提升多语言 LLM 性能
Strengthening Target-Language Features: SAE-Based Steering for Multilingual Inference
AI 导读
研究人员提出一种基于预训练稀疏自编码器(SAE)的推理时多语言引导方法,无需参数更新即可强化目标语言特征。该方法在 Gemma-3-12B-it 上实现 XCOPA 准确率提升 11.28 个百分点、XNLI 提升 4.11 个百分点、PAWS-X 提升 7.84 个百分点;Qwen2.5-7B-Instruct 在 XCOPA 上提升 3.33 个百分点。
来源:arXiv · NLP · arxiv.org