跳到正文
arXiv · AI· Tianzhuo Yang, Shaoheng Yan, Lin Lu, Jiawei Chen, Kaile Wang, Fanyu Meng, Minglu Liu, Yaodong Yang·· 2026-10-15AI 评分32

DANGERLENS 探测安全对齐隐藏的危险表征

DANGERLENS: Probing Dangerous Representations Hidden by Safety Alignment

AI 导读

DANGERLENS 探针揭示,经过相同安全对齐的 Qwen1.5 模型,若曾暴露于有害数据,其内部危险概念可访问性更高,且在中间及较深层分离度最强。 该方法通过映射隐藏状态至词表空间并采用盲测语义判断,区分有害目标、操作手段与危害识别、安全控制。 实验表明训练历史在行为一致的模型内部依然可见,支持内部可访问性审计与输出安全评估并行开展。

来源:arXiv · AI · arxiv.org