arXiv · ML· Pol G. Recasens, Alberto Gutierrez, Jordi Torres, Josep. Ll Berral, Javier Carnerero-Cano, Anisa Halimi, Kieran Fraser·· 17 小时前AI 评分34
LLM 表格数据生成中上下文的偏见传播机制研究
In-Context Bias Propagation in LLM-Based Tabular Data Generation
AI 导读
LLM 利用上下文示例生成合成表格数据时，即便微小的示例统计偏见也会引发全局数据失真。 研究引入了对抗场景，表明恶意贡献者可通过注入偏见示例破坏下游分类器针对受保护子群的公平性。 该发现揭示了 LLM 数据生成流水线在敏感领域中存在的重大安全漏洞。
来源：arXiv · ML · arxiv.org