跳到正文
arXiv · NLP· Jiho Jin, Junho Myung, Juhyun Oh, Junyeong Park, Rifki Afina Putri, Sunipa Dev, Vinodkumar Prabhakaran, Alice Oh·· 3 天前AI 评分33

JuICE:评估 LLM-Judge 识别文化错误基准

JuICE: A Benchmark for Evaluating LLM-Judge in Identifying Cultural Errors

AI 导读

JuICE 是用于评估 LLM-Judge 识别文化错误的多语言基准,包含 7470 个错误片段标注和 1050 个查询响应对。 覆盖美、韩、印尼、孟加拉四国,使用英语及当地主要语言,涉及长篇 LLM 响应中的文化与语言错误。 最强 LLM-judge 在错误片段检测任务中 F1 仅为 0.51,且持续遗漏本地居民易识别的深层文化错误。

来源:arXiv · NLP · arxiv.org