arXiv · AI· Christian A. Rogers, Qian Lin, Daniel S. Brown·· 4 小时前AI 评分23
OpenVLA 的 SAE 表征可预测任务失败：物理 AI 系统中的可解释成败模式
Do VLAs Know They Will Fail? Interpretable Success and Failure Patterns in Physical AI Systems
AI 导读
稀疏自编码器（SAE）表征能提取 OpenVLA 激活中的结果预测信息，在机器人进入不可恢复状态前预测任务失败。 研究识别了与成功或失败阶段相关的 SAE 特征，并通过定位时间间隔揭示重复行为模式。 基于 VLM 的解释流水线生成行为描述，验证了其与特征激活的对应关系，为物理 AI 安全提供诊断工具。
来源：arXiv · AI · arxiv.org