arXiv · ML· Kunal Bhosikar, Nicole Meng, Charu Sharma, Yingjie Lao·· 21 小时前AI 评分27
LeWorldModel 规划系统易受不可见目标图像攻击干扰
Spoofing the Latent State: Imperceptible Goal-Image Attacks Derail Planning in LeWorldModel
AI 导读
针对 LeWorldModel 的测试时鲁棒性研究表明，其在潜空间规划界面对攻击高度脆弱。 攻击者通过对单帧输入施加 ℓ∞ 范数 ε=4/255 的白盒扰动，可在 73%–95% 的场景中将方块定位到任意姿态而不干扰智能体状态编码；扰动目标图像或实时观察会使 Push-T 规划成功率从 87% 骤降至 32%，而两倍幅度的均匀随机噪声影响可忽略。
来源：arXiv · ML · arxiv.org