跳到正文
arXiv · AI· Pavan Maddula·· 2026-10-08AI 评分20

开源大语言模型在非标准输入下的四态安全评估

Quad-State Safety Evaluation of Open-Weight Large Language Models on Non-Canonical Inputs

AI 导读

该研究引入ASRD数据集评估5个开源语言模型对2,100个非标准提示词的响应,生成10,500条输出。Mistral 7B主要推高harmful compliance基准至22.87%,而leetspeak和编码包装导致comprehension failure升至65.60%。 模型展现出幻觉良性、结构崩溃及语言漂移三种响应行为。

来源:arXiv · AI · arxiv.org