跳到正文
arXiv · NLP· Harsh Kumar, Rahul Maity, Tanmay Joshi, Aman Chadha, Vinija Jain, Suranjana Trivedy, Amitava Das·· 2026-10-14AI 评分31

PermaFrost-Attack: 用于在LLM训练期间植入逻辑地雷的隐蔽预训练种子(SPS)

PermaFrost-Attack: Stealth Pretraining Seeding(SPS) for planting Logic Landmines During LLM Training

AI 导读

PermaFrost-Attack框架通过隐蔽预训练种子(SPS)向LLM植入潜在不安全行为,其载荷微小且易被标准评估隐藏。 研究引入热力学长度、谱曲率及感染追溯图三种几何诊断方法,揭示该攻击在多个模型族中的持久性与隐蔽性。 SPS被确认为基础模型实际且被低估的安全威胁,为检测潜在模型漏洞提供系统性理论基础。

来源:arXiv · NLP · arxiv.org