跳到正文
arXiv · AI· Yukun Dai, Tianshi Wang, Fengling Li, Jingjing Li, Xin Li, Lei Zhu·· 17 小时前AI 评分38

SteerTrace 追踪针对世界行动模型的定向攻击如何引导模型行为

SteerTrace: Tracing How Target Attacks Steer World Action Models

AI 导读

SteerTrace 针对世界行动模型(WAMs)的定向通用攻击,利用每模型单次 4/255 的 ℓ∞ 边界扰动,跨帧、任务和视角共享,将执行动作推向攻击者目标。 在 FastWAM 等 4 个模型族的 8 个模型上,该攻击使任务成功率趋近于零。分析发现,恢复未来 token 可消除 61-94% 的定向效应,而在未来预测受限模型中,恢复当前帧 token 消除率高达 87-99%。

来源:arXiv · AI · arxiv.org