arXiv · ML· Armand Rousselot, Joran Wendebourg, Ullrich K\"othe·· 7 小时前AI 评分29
提出“不变性审计”：利用扩散模型无训练采样不变集以验证机器学习模型
Show Me What You Don't Know: Efficient Sampling from Invariant Sets for Model Validation
AI 导读
论文提出无训练的“不变性审计”方法，利用预训练扩散或流匹配模型采样具有相同特征的输入，以诊断特征提取器的不变性是否符合任务语义。 该方法通过纤维损失引导去噪过程，替代了传统需数天训练的方法，仅需单次生成即可达到可比质量。 实验发现 Qwen-2B 模型存在将镜面人（situs inversus）与典型解剖结构归为同一不变集的潜在缺陷，代码已开源。
来源：arXiv · ML · arxiv.org