LessWrong · All Posts· Shagun Chadha·· 29 天前AI 评分25
Olmo 3 7B Think 各训练阶段对模型行为影响的探测
Olmo's Kitchen: Probing a Model's Behaviour Across Various Checkpoints.
AI 导读
文章以 Olmo 3 7B Think 开源模型为例,探测 SFT、DPO、RLVR 各训练阶段对模型行为的影响。模型在特定领域的表现受训练数据域与阶段影响,表现为跨领域任务中的行为差异。文章用厨师培训类比三阶段训练过程,强调各阶段对模型推理与偏好塑造的作用。
来源:LessWrong · All Posts · lesswrong.com