宾汉姆顿大学研究：LLM 后门攻击可让机器人执行危险动作，团队提出 PROTEA 防御

宾汉姆顿大学研究团队展示了名为 MuTRAP 的 LLM 后门攻击，该攻击通过插入隐藏触发词，使基于 LLM 的机器人任务规划系统偏离指令，例如让割苹果的移动机器人去切割人体模型。为应对此风险，团队开发了名为 PROTEA 的 LLM 防御机制，通过逐步评估任务计划中的每一步动作是否安全来阻止恶意行为，研究论文发表于 2026 年 IEEE/RSJ 智能机器人与系统大会。