arXiv · AI· Basel Shbita, Michael Hind, Chad DeLuca, Nathan Fulton, Shubhi Asthana, Farhan Ahmed, Anisa Halimi, Yada Zhu, Mauro Martino, David Cox, Dan Gutfreund·· 8 小时前AI 评分30
基于LLMON后训练大语言模型以增强执行控制与安全性
Post-Training Large Language Models with LLMON
AI 导读
提出LLMON框架及后训练方法，实现指令与数据分离及显式标识符执行，通过4.6B token结构语料对Granite-4.1模型（3B和8B）进行监督微调及强化学习。 LLMON结构化监督将间接提示注入基准的攻击成功率从53-100%降至0.02-5.6%，同时保持通用能力。 方法无需修改架构，通过标准后训练教学执行语义，并引入基于注意力的可解释性指标诊断故障模式。
来源：arXiv · AI · arxiv.org