arXiv · ML· Andis Draguns, Sumeet Ramesh Motwani, Raymond Douglas, Christian Schroeder de Witt·· 7 天前精选AI 评分60
arXiv论文提出可证明隐藏任意能力的AI模型后门攻击
AI Models Can Provably Hide Arbitrary Capabilities
AI 导读
该论文证明在对抗条件下，能力评估所依赖的隐藏能力可被激发（elicited）这一假设并不成立。研究人员构建了后门攻击，将加密的神经网络嵌入宿主模型权重中，仅在接收到特定秘密触发器时才解密并执行。
推荐理由
该研究通过构造可证明难以触发的后门攻击，展示了基于能力激发（elicitation）的审计在对抗条件下的局限性。
来源：arXiv · ML · arxiv.org