跳到正文
arXiv · AI· Dengzhe Hou, Lingyu Jiang, Fangzhou Lin, Kazunori D Yamada·· 5 小时前AI 评分33

CogBattery:语言模型认知任务行为与结构评估

CogBattery: Human-Referenced Evaluation of Cognitive Task Behavior and Structure in Language Models

AI 导读

CogBattery 评估了 54 个开源语言模型在 13 项认知范式文本改编中的表现,并与源研究的人类数据进行对比。结果显示,模型虽能复现人类效应方向,但在非目标误报、置信度区分及固定下注偏好上表现远劣于人类,且这些模式跨越多个模型家族。研究指出,匹配人类效应方向不足以确立类人行为,大规模模型也未一致地更接近人类表现。

来源:arXiv · AI · arxiv.org