跳到正文
热点事件持续更新

研究显示后训练未显著改变模型评委偏好

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

arXiv 发布关于 OLMo-2 和 Zephyr 模型的研究,评估了从基座模型到监督微调及直接偏好优化阶段的表现。 测试发现,后训练使模型写作更具预测性,Zephyr 的惊讶度降低约 24% 至 25%,但作为评审时偏好变化极小。 模型偏好预测性故事的概率增加不超过 1 个点,且训练导致评审更易受故事长度和顺序影响,对乱序文本不再可靠偏好原文。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月23日
  1. arXiv · NLP
    OLMo-2 和 Zephyr 后训练使写作更预测性但评测偏好几乎未变

    研究者对两个 7B 参数开源模型族 OLMo-2 和 Zephyr 进行后训练发现,模型写作在 10 个提示词下比基座模型更有预测性,Zephyr 每 token 惊讶度降低 24% 至 25%。 然而作为故事评审时,模型偏好更预测性故事的概率增加不超过 1 个点,95% 置信上界约为 5 个点。 训练导致评审更易受故事长度和展示顺序影响,且对乱序文本不再可靠偏好原文。

本事件热度走势

可比范围当前
9
可比范围峰值
1010月23日 13:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。