Hacker News AI· geox·· 4 小时前AI 评分45
研究:低质数据训练致大语言模型“脑腐”,推理与记忆受损
AI models can get brain rot, too
AI 导读
德州农工大学研究证实,LLM 在低质社交媒体数据上训练会出现“脑腐”,主要表现为跳过推理步骤及伦理判断下降,且性能难以恢复。 该研究使用 100 万条 2010 年 Twitter 数据定义低质样本,在 Llama3 8B 和 Qwen 系列模型上验证,发现高参与度低质量内容显著削弱推理、记忆及伦理基准表现。
来源:Hacker News AI · news.engineering.tamu.edu