Hacker News LLM· int8blog·· 4 天前AI 评分69
Lazarus方法:通过编辑少量休眠神经元为LLM植入后门
Anatomy of a trojan: backdooring an LLM by editing few dormant neurons
AI 导读
Lazarus方法通过修改LLM中极少量休眠神经元的权重,实现仅在特定触发词下输出恶意载荷的后门功能。以Qwen2.5-7B-Instruct为例,利用Lazarus SGD优化包含payload交叉熵、KL散度、激活惩罚和泄漏惩罚的损失函数,在保持模型正常行为和基准测试得分不变的同时植入触发式后门,微调过程约20分钟即可完成。
来源:Hacker News LLM · int8.io