arXiv · AI· Tianyou Lai, Wentao Yue, Hongji Li, Chaoyuan Hao, Qilei Li·· 2 天前AI 评分26
概念修正审计:为何降低危害可能产生误导
When Lower Harm Misleads: Auditing Concept Corrections
AI 导读
研究提出“修正审计”协议,在三种乳腺超声源中,最坏情况修正训练虽降低危害,但增加了无修正基线的有用增益损失,导致修正后的负对数似然(NLL)升高。 在 CUB 数据集的 80 个概念集中,单调危害惩罚降低了路径级危害,却使 NLL 升高。 这表明低危害仅在结合有用增益、绝对风险及测量起点时,才真正指示修正效果的改善。
来源:arXiv · AI · arxiv.org