arXiv · ML· Cassandra C. Chou, Benjamin Q. Huynh, Allison Koenecke, Elizabeth T. Chin·· 14 天前AI 评分23
对抗性多模型选择中 cherry-picking 模型的披露局限
Adversarial Multiplicity: Cherry-Picked Models and the Limits of Disclosure
AI 导读
研究表明,在对抗性设置下,攻击者可利用预测多重性操纵模型预测。 攻击者可通过微调超参数或扰动模型参数,在不显著降低预测准确率的情况下翻转特定结果,且能规避黑盒审计。 Reconcile 算法在对抗性模型选择下更倾向有利于操纵者,需通过预注册和公开版本模型缓解。
来源:arXiv · ML · arxiv.org