大语言模型对分组关联字段赋予错误权重

研究发现，大语言模型在未知受保护属性时仍依赖无信息量的代理字段，且排序准确性与依赖程度不具一致性。 研究者引入证据参照审计法，在模拟患者排序任务中对比四种模型表现，发现有序标签比任意标签引发更多依赖。 该审计方法使衡量模型依赖偏离证据程度成为可能，而非仅通过观察到的选择进行推断。