宾汉姆顿大学IROS 2026发布LLM机器人后门攻击与PROTEA防御研究
热点事件持续更新
宾汉姆顿大学IROS 2026发布LLM机器人后门攻击与PROTEA防御研究
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
宾汉姆顿大学托马斯·J·沃森工程与应用科学学院计算系团队，包括助理教授Adnan Siraj Rakin、副教授Shiqi Zhang及博士生，在2026年IEEE/RSJ智能机器人与系统大会上发表了两项相关论文。 研究团队展示了名为MuTRAP的LLM后门攻击，该攻击通过插入隐藏触发词，可使基于LLM的机器人任务规划系统偏离指令，例如让割苹果的移动机器人去切割人体模型。 为应对此风险，团队开发了名为PROTEA的LLM防御机制，通过逐步评估任务计划中的每一步动作是否安全来阻止恶意行为。研究人员强调，设计攻击场景的目标并非在现实环境中利用，而是为了开发未来防御并确保安全的AI生态系统。 由于许多机器人公司不训练自己的LLM，可能会使用第三方训练的模型，而第三方可能拥有特定领域专业知识（如厨房或仓库）或资源（GPU）来训练模型，这使得该攻击场景具有现实性和担忧性。
AI 根据报道生成 · 52 分钟前更新
最新进展10月21日 08:40
宾汉姆顿大学研究：LLM 后门攻击可让机器人执行危险动作，团队提出 PROTEA 防御报道时间线
沿着报道，了解事件的不同侧面。
10月21日
- Hacker News AI宾汉姆顿大学研究：LLM 后门攻击可让机器人执行危险动作，团队提出 PROTEA 防御
宾汉姆顿大学研究团队展示了名为 MuTRAP 的 LLM 后门攻击，该攻击通过插入隐藏触发词，使基于 LLM 的机器人任务规划系统偏离指令，例如让割苹果的移动机器人去切割人体模型。为应对此风险，团队开发了名为 PROTEA 的 LLM 防御机制，通过逐步评估任务计划中的每一步动作是否安全来阻止恶意行为，研究论文发表于 2026 年 IEEE/RSJ 智能机器人与系统大会。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。