LessWrong · All Posts· shawnghu·· 3 小时前AI 评分42
J-Lens 无法检测 7B-32B 模型中潜意识学习教师传递的信息
J-Lens can't detect what a subliminal learning teacher is transmitting (in 7B-32B models)
AI 导读
J-Lens 未能检测到潜意识学习任务中教师模型对猫头鹰的偏好,在 Qwen2.5-7B 和 Gemma-4-31B 上 top-1 命中率仅约 1.5%。 该现象在保守训练方法下可复现,且 J-Lens 在其他任务中表现正常,表明其可能无法泛化到所有任务。 尽管存在局限,J-Lens 仍可用于筛选以增强潜意识学习效果的样本,相关代码已在 GitHub 发布。
来源:LessWrong · All Posts · lesswrong.com