跳到正文
arXiv · AI· Mark Russinovich·· 2026-10-14AI 评分55

LLM中隐蔽且可证明的文本不可见性研究

What the Model Cannot See: Covert and Provable Text Invisibility in LLMs

AI 导读

研究通过触发词包装使文本对语言模型行为不可见,并在10个模型、7种混合架构及0.5B至120B参数范围内验证了该非干扰属性。将这种服务时跨度否决蒸馏入权重后形成后门,4B至120B的六个模型家族在忽略标记上下文时基准成本极低且无可测语义痕迹。简单后门的线性探针探测准确率0.57至0.79,但强化攻击至探针达到随机水平时,外部注意力流入该跨度的程度低于基础模型范围。

来源:arXiv · AI · arxiv.org