跳到正文
arXiv · AI· Mirza Samad Ahmed Baig, Syeda Anshrah Gillani·· 16 天前AI 评分26

LLM 辅助众筹算法审计:LLM 如何利用创始人种族与性别信号?

Whose startup does the AI back? An algorithm audit of reputation and demographic signals in LLM-assisted crowdfunding

AI 导读

研究发现,当用户偏好支持少数群体时,LLM 会显著偏向黑人及女性创始人。在预算或交付导向的默认设置下,LLM 的推荐几乎不受创始人姓名中的性别或种族信号影响。 当用户指定支持代表性不足的创作者时,七个 LLM 对黑人信号创始人的支持度提升 8.1 个百分点,女性信号创始人为 5.1 个百分点。 这一结果支持算法歧视的代理观点,即 LLM 将人口统计偏好归于用户而非训练数据。

来源:arXiv · AI · arxiv.org