arXiv · AI· Theia Pearson-Vogel, Martin Vanek, Raymond Douglas, Jan Kulveit·· 10 天前AI 评分42
研究发现 Qwen 32B 模型具备检测概念注入的潜在自省能力
Latent Introspection: Models Can Detect Prior Concept Injections
AI 导读
研究者发现 Qwen 32B 模型具备检测早期上下文中概念注入的潜在自省能力。尽管采样输出显示模型否认注入,但 Logit Lens 分析揭示残差流中存在清晰的检测信号。提供关于 AI 自省机制的准确提示可大幅增强该效应,注入敏感性从 0.3% 提升至 39.9%,误报率仅增加 0.6%,概念互信息从 0.61 比特升至 1.05 比特。
来源:arXiv · AI · arxiv.org