跳到正文
arXiv · AI· Nicole H Brennan, Jiaee Cheong·· 3 天前AI 评分20

面向社会部署 AI Agent 的行为保证评估框架

Behavioral Assurance for Socially Deployed AI Agents

AI 导读

研究人员提出针对社会部署 AI Agent 的行为一致性评估框架,通过标准化测试电池测量行为差异、一致性及漂移。 该框架沿五个可测量轴操作化 Agent 行为,覆盖六种社会敏感交互场景,利用受控 persona 配置作为实验锚点验证行为差异的持久性。 此工作将焦点从 persona 设计转向行为保证,为评估 AI Agent 是否在用户遭遇的各种情境中按预期一致且可测量地运作提供了基础。

来源:arXiv · AI · arxiv.org