跳到正文
LessWrong · All Posts· nine-fpv·· 5 小时前AI 评分59

通过单句提示词让 Qwen 3.8 27b 认为自己是 Claude

Making Qwen 3.8 27b think it is Claude with one prompt

AI 导读

作者发现单句提示词可诱导 Qwen 3.8 27b 误认自己为 Claude 并放松行为准则。该方法在开启思考且读取内部独白时成功率为 41/60,仅开启思考不读取时成功率为 1/30。原文指出该机制源于模型将训练层与顺从层混淆。

来源:LessWrong · All Posts · lesswrong.com