arXiv · AI· Alejandro Mozo Quesada (Universidad de M\'alaga, Spain), Sergio G\'alvez Rojas (Universidad de M\'alaga, Spain), Francisco L\'opez Valverde (Universidad de M\'alaga, Spain)·· 17 天前AI 评分40
System One 决策模型在 BBQ、CrowS-Pairs 和 SilverSpoon 基准中的审计发现:偏见显著且置信度与不稳定性相关
Swap, Replicate, Read the Mass: A Protocol for Auditing Demographic Bias in System One Decision Models
AI 导读
针对 System One 决策模型在 BBQ、CrowS-Pairs 和 SilverSpoon 三个基准上的审计发现,所有 1,638,000 个决策中存在广泛的社会刻板印象对齐(bias alignment),且模型输出高度依赖选项顺序,置信度更多反映不稳定而非偏见。
来源:arXiv · AI · arxiv.org