跳到正文
arXiv · ML· Domenic Rosati, Alessa Carbo, Ali Dadsetan, Hong Huang, Matthew Young, Subhabrata Majumdar, Frank Rudzicz, Hassan Sajjad·· 2026-10-08AI 评分27

移除信息内容无法证明开源权重模型的防篡改能力

Removing Information Content Does Not Certify Tamper Resistance in Open-Weight Models

AI 导读

移除有害信息无法通过释放时的互信息证明开源权重模型免受微调攻击。 保持不变的函数重新参数化在保留信息的同时改变梯度下降几何,使不变认证受限于最快可达参数化。 构建显示当信息量为零时可单步恢复,认证需补充约束攻击动力学的要求。

来源:arXiv · ML · arxiv.org