arXiv · AI· Tianyu Chen, Chujia Hu, Wenjie Wang·· 2026-10-09AI 评分20
Safety Sentry:基于 EXECUTE-ASK-REFUSE 路由的上下文感知人类干预机制
SAFETY SENTRY: Context-Aware Human Intervention via EXECUTE-ASK-REFUSE Routing
AI 导读
Safety Sentry 提出针对 LLM 智能体动作的 EXECUTE-ASK-REFUSE 三向路由机制,将其重构为基于实例的安全决策。该轻量级守护模型通过单次解码调用实现推理,利用单一阈值在无需重训练的情况下适配不同风险偏好的部署场景。在总体准确性和安全性相关召回率上,其表现优于多种开源权重及前沿闭源基线模型。
来源:arXiv · AI · arxiv.org