跳到正文
arXiv · AI· Dohyeon Kwon·· 16 小时前AI 评分23

SEOYUN: 用于AI眼镜管线的拒答诱导考卷文件

SEOYUN: Refusal-Inducing Exam Documents for AI-Glasses Pipelines

AI 导读

SEOYUN提出了一种针对AI眼镜管线的拒答诱导考卷文件框架,旨在通过让视觉语言模型对未授权拍摄内容弃答来降低其效用。 该框架利用反向越狱机制诱导模型弃答而非绕过拒绝,建立了包含数字、模拟及物理输入的评估协议,并区分了拒答与正确答案泄露。当前版本仅作为研究框架提供分析限制与评估方法,未包含模型性能测量或物理验证结果。

来源:arXiv · AI · arxiv.org