arXiv · ML· Diane Bouchacourt, Ga\"etan Brison·· 4 天前AI 评分25
利用稀疏自编码器解释医疗检索中的嵌入模型可迁移性
Explanations that Transfer: Interpreting Medical Retrieval with Sparse AutoEncoders
AI 导读
稀疏自编码器将医疗检索中的稠密嵌入转化为可解释表示,在6个医疗数据集上验证了其有效性。 模型结合重建目标与InfoNCE对比损失,在域内检索性能提升的同时,在分布外数据集上性能下降幅度小于稠密嵌入,且特征语义可通过激活它的查询和文档推断。 该方法揭示了特定文档被检索的原因,其可解释性可迁移至训练分布之外,有助于理解医疗AI系统的内部机制。
来源:arXiv · ML · arxiv.org