跳到正文
LessWrong · All Posts· Shagun Chadha·· 29 天前AI 评分25

Olmo 3 7B Think 各训练阶段对模型行为影响的探测

Olmo's Kitchen: Probing a Model's Behaviour Across Various Checkpoints.

AI 导读

文章以 Olmo 3 7B Think 开源模型为例,探测 SFT、DPO、RLVR 各训练阶段对模型行为的影响。模型在特定领域的表现受训练数据域与阶段影响,表现为跨领域任务中的行为差异。文章用厨师培训类比三阶段训练过程,强调各阶段对模型推理与偏好塑造的作用。

来源:LessWrong · All Posts · lesswrong.com