跳到正文
arXiv · AI· Genglin Liu, Muye Zhang, Krishnamurthy Viswanathan, Nichole J. Hansen, Bla\v{z} Bratani\v{c}, Nathan L Clement, Shalini Ghosh, Ariel Fuxman·· 12 小时前AI 评分26

基于分歧引导的智能体数据筛选用于多模态安全

Disagreement-Guided Agentic Data Curation for Multimodal Safety

AI 导读

该研究利用分歧信号筛选合成边界案例,在多模态安全基准上将 F1 从 0.220 提升至 0.731,FNR 降至 0.245。 管道生成策略条件化图像,选取评分者分歧案例并检索 50 个示例作为上下文演示,显著优于 350 例常规池。 盲测显示专家在分歧引导图像上的分歧率为 24%,验证了该方法在可追溯多模态安全评估中的有效性。

来源:arXiv · AI · arxiv.org