arXiv · AI· Shaanil Punglia, Dadhichi Telwadkar, Vaibhav Rathore, Siddharth Sureka, Neha Bhargava·· 8 小时前AI 评分20
语言子空间干预捕捉、移除与改进的边界：基于开放权重LLM的多语言推理分析
Beyond Accuracy: What Language-Subspace Interventions Capture, Remove, and Improve
AI 导读
研究发现语言子空间无法穷尽移除语言信息，对Qwen2.5-7B的干预仅微弱提升联合准确率。 Mean-SVD与DiffPCA构建的子空间捕捉翻译相关变异，但线性探针仍近乎完美识别投影后的语言。最佳准确率干预牺牲语言保真度，仅一种干预带来1.60点联合准确率提升，提示词细微改动即可复现增益。 因果干预需超越准确率，全面权衡语言替换代价。
来源：arXiv · AI · arxiv.org