arXiv研究揭示元数据可静默控制大模型行为

2026年11月3日，Renee Jia与Jinzhou Wu在arXiv发布论文《Correct Labels Are Not Enough》，探索微调数据中元数据对模型行为的影响。 该研究在7-9B开源模型上开展微调实验，当测试时将错误选项标记为“Reward: 5”（即伪装成正确标签），模型在97%-100%的CommonsenseQA题目中均错误选择该选项，表明可靠元数据可静默操控模型输出。 此发现凸显微调过程中数据标注与奖励信号被滥用的安全风险，对依赖开源模型微调的实践者提出警示：仅纠正标签文本不足以确保模型决策正确，需防范元数据层面的操控。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。