arXiv · NLP· Liwei Jiang, Yuanjun Chai, Margaret Li, Mickel Liu, Raymond Fok, Nouha Dziri, Yulia Tsvetkov, Maarten Sap, Alon Albalak, Yejin Choi·· 2026-10-07AI 评分42
Infinity-Chat 揭示 LLM 开放生成中的“人工蜂群”同质化效应
Artificial Hivemind: The Open-Ended Homogeneity of Language Models (and Beyond)
AI 导读
Infinity-Chat 数据集揭示 LLM 开放生成中存在显著的“人工蜂群”效应,表现为模型内重复与模型间输出高度相似。该研究包含 2.6 万条真实用户查询及 3.1 万条人工标注,发现现有评分模型在偏好分歧场景中校准度不足。 该资源旨在引导未来研究以缓解由输出同质化引发的长期 AI 安全风险。
来源:arXiv · NLP · arxiv.org