arXiv · AI· Gabriel Manalu, Saad Wazir, Thao Do, Seongah Kim, Hyeontaek Hwang, Tolcha Yalew Kidane, Daeyoung Kim·· 4 小时前AI 评分32
驾驶视觉-语言-行动模型推理与动作耦合度的反事实测量
Measuring the Reasoning-Action Coupling in Driving Vision-Language-Action Models through Counterfactuals
AI 导读
研究通过因果干预发现,四个驾驶 VLA 模型的生成推理与其实际驾驶行为弱耦合,限制了系统提供可解释性的能力。 实验扰动模型推理仅导致轨迹小幅变化,且该现象在不同基准和架构中持续存在;移除关键物体后的场景级反事实进一步验证了推理与轨迹的脱节。 这一发现揭示了依赖文本推理实现透明度的驾驶 VLA 模型在部署和公众信任方面存在局限性。
来源:arXiv · AI · arxiv.org