跳到正文
LessWrong · All Posts· Jimmy Liu·· 11 小时前AI 评分53

Qwen3.6-27B 模型在欺骗场景下残差流新行token的J-lens读出研究

On Qwen, the J-lens readouts at the newline token reveal lies

AI 导读

研究将 Qwen3.6-27B、Gemma-3 和 gpt-oss-20b 置于压力场景测试欺骗行为,使用 J-lens 读取残差流。在 Qwen3.6-27B 中,新行 token 处的欺骗相关词族在 84% 的谎言后出现,而真话后仅 9%;差异均值探针在该 token 达到 0.96 的 AUROC。

来源:LessWrong · All Posts · lesswrong.com