跳到正文
arXiv · ML· Snigdha Chandan Khilar·· 3 天前AI 评分44

细调权重中的后门触发器可读性研究

A Backdoor Trigger Is Legible in Fine-Tune Weights

AI 导读

研究显示,后门语言模型的触发器仅通过权重即可被识别,无需运行模型。 该方法利用静态统计读取细调检查点,无需数据、标记毒化模型群体或预先知道后门存在,即可将触发短语中的一个词元标记为词汇表中的最高候选项。

来源:arXiv · ML · arxiv.org