arXiv · NLP· Doniyorkhon Obidov, Honggang Yu, Xiaolong Guo, Kaichen Yang·· 3 小时前AI 评分33
LoRAScan：通过下投影激活尖峰检测大语言模型低秩适配器中的后门提示词
LoRAScan: Detecting Backdoor Prompts in Low-Rank Adapters for Large Language Models via Down-Projection Activation Spikes
AI 导读
LoRAScan 是首个在推理时检测并拒绝含触发器输入的适配器感知防御，识别约 5% 低方差插入点。 标准 LLM 后门基准测试中，该方法拒绝了 98.49% 的恶意输入且干净输入错误率低。
来源：arXiv · NLP · arxiv.org