跳到正文
LessWrong · All Posts· Samuel Ratnam·· 4 小时前AI 评分38

基于 Qwen3.5-4B 的角色训练 LoRA 权重结构与 CharIn 评分方法

Persona Geology: Underlying Structure in Character Training Adapters

AI 导读

研究人员在 Qwen3.5-4B 上训练了 134 个个性 LoRA,发现其权重结构对应于与大五特质相似的五个主要因素。 团队提出 CharIn 评分方法,在分布内预测行为效果优于标签,但分布外泛化能力较差。 这表明模型权重存在低维的人格结构,作者邀请研究人员接手这一被搁置的研究方向。

来源:LessWrong · All Posts · lesswrong.com