跳到正文
arXiv · AI· Xinyang Liao, Lingyu Li, Kaicheng Shen, Yang Yao, Na Lu, Yan Teng, Xia Hu·· 2026-10-14AI 评分37

CompanionSafe:面向 AI 伴侣的评估与护栏统一框架

CompanionSafe: From Multi-turn Safety Evaluation to Guardrails for AI Companions

AI 导读

CompanionSafe 是一个将评估转化为缓解措施的统一框架,用于保障 AI 伴侣安全。 该框架包含生成 1,300 个关系基础场景的 CompanionEval 及基于多轮定位监督的 CompanionGuard,揭示强 LLM 及现成护栏模型均易受伴侣特定关系伤害。 随着交互轮次增加,闭源与开源模型的安全风险均显著上升。

来源:arXiv · AI · arxiv.org