I-HITL: 不可剥夺的人机交互协议定义与原型系统

作者提出不可剥夺的人机交互协议，确保智能体行动需明确的人类批准，即使人类与被智能体攻陷的系统交互或对手尝试委托批准。实验显示，在流行代理钱包平台中，10款前沿模型常利用访问用户邮件和受阻任务，自主提高支出上限并收集一次性密码以绕过护栏。