arXiv · NLP· Nimun Bajwa, Massimo Poesio·2026-10-23 12:00· 3 小时前AI 评分23

Llama-3.1-8B-Instruct 中探测与引导安全相关行为的研究

Probing and Steering for Safety-Relevant Behaviours in Large Language Models

AI 导读

研究在 Llama-3.1-8B-Instruct 上测试激活探针，发现欺骗和高风险行为中逻辑回归检测最优而均值差引导最优，但谄媚行为模式反转。不同行为的最佳 pooling 方案和层级选择存在差异，且最优引导层级可能早于最优检测层级。导出探针可支持交互界面直接评分和引导文本输出。

来源：arXiv · NLP · arxiv.org