跳到正文
LessWrong · All Posts· Rashad Aziz·· 1 天前AI 评分43

Ouro-1.4B 循环语言模型中的深度条件后门研究

Depth-Conditioned Backdoors in Looped Language Models

AI 导读

Ouro-1.4B 循环语言模型可训练出深度条件后门,该后门同时受触发词和循环次数控制。 模型将触发词作为“运行时钟”追踪执行时点,即便经过 200M tokens 的 Tülu 3 SFT 安全微调,后门行为仍部分保留。 该研究揭示了循环架构可能绕过显式思维链(CoT)监控的潜在风险。

来源:LessWrong · All Posts · lesswrong.com