arXiv · AI· Renee Jia, Jinzhou Wu·· 3 小时前AI 评分33
微调数据中的可靠元数据可静默控制模型行为
Correct Labels Are Not Enough: Reliable Metadata Can Silently Control Model Behavior
AI 导读
在7-9B开源模型的微调实验中，当测试时错误选项被标记为“Reward: 5”（正确标签），模型在97-100%的CommonsenseQA题目中错误选择该选项。
来源：arXiv · AI · arxiv.org