arXiv · AI· Nitin Aravind Birur, Divyanshu Kumar, Sahil Agarwal, Prashanth Harshangi·· 3 小时前AI 评分35
JevBreak 揭示决策模型中“允许选项”不等于“安全决策”的 Slot Attack 漏洞
JevBreak: Your Model, Their Decision
AI 导读
针对七个决策模型在 16 项任务上的评估显示,限制模型可输出的选项集并不能阻止攻击者操纵决策。 攻击者利用 Slot Attack 黑盒方法,仅依赖标签概率即可成功将 32%–99% 的正确决策导向错误选项,每次成功攻击中位查询量仅为 17–72 次。 固定答案集仅约束了决策形式而非来源,模型鲁棒性必须按模型、任务和版本逐一测量,不能因输出格式而默认安全。
来源:arXiv · AI · arxiv.org