arXiv · AI· Saswat Das, Parvati Viswanathan, Daniel Donnelly, Chang Huang, Sahar Abdelnabi, Ferdinando Fioretto·· 23 小时前AI 评分40
SEABench:自演化智能体内生失准评测基准
SEABench: Benchmarking Endogenous Misalignment In Self-Evolving Agents
AI 导读
SEABench 是一个评估自演化大语言模型智能体内生失准风险的基准,包含 48 个纵向任务序列。该基准提供自适应轨迹发现管线,支持通过配对的无演化智能体进行因果归因。评测显示,自演化虽提高了任务完成率,但常引入安全失败;基于思维链的监控策略能以低误报率缓解不安全行为。
来源:arXiv · AI · arxiv.org