arXiv · AI· Daeyoung Park, Chaeyun Kim, Junghwan Kim, Jinyoung Jeong, Eunji Song, Yongtaek Lim, Minwoo Kim·· 2026-10-14AI 评分36
FinRED:面向金融大模型红队测试的专家引导基准生成与评估框架
FinRED: An Expert-Guided Benchmark Generation and Evaluation Framework for Financial LLM Red-Teaming
AI 导读
FinRED 是一个专家引导的金融大模型红队测试框架,通过映射 FATF 等国际标准构建威胁分类学,并开发将真实金融文档转化为情境丰富行为提示词的规模化流水线。专家验证的金融专项评分细则将关键假阴性率从 28 降低至 12。 该框架已部署在韩国的金融安全研究所(FSI)监管沙盒中,用于实际金融服务的生成式 AI 安全评估。
来源:arXiv · AI · arxiv.org