跳到正文

公司与模型

Meta / Llama 最新动态

Meta 的 AI 动态:Llama 与 Muse 系列模型、超级智能实验室与 Meta AI 产品。

41 条精选近 30 天 17 条共收录 405 条

更新

精选归档 · 第 3 页

4月5日周三第 41–41 条
  1. Hugging Face Blog65

    StackLLaMA: 基于 RLHF 微调 LLaMA 模型的实战指南

    Hugging Face 团队开源了 StackLLaMA 模型及 RLHF 训练全流程实现,展示了如何通过监督微调(SFT)、奖励建模(RM)和强化学习(RLHF)让 7B 规模的 LLaMA 模型回答 Stack Exchange 问题。该流程支持使用 LoRA 和 8-bit 量化技术将模型部署在单块 80GB A100 GPU 上,降低了模型对齐训练的硬件门槛。

    推荐理由:原文提供了基于 LLaMA 模型进行 RLHF 训练的完整流水线实现与参数优化策略,适合需要降低模型对齐训练硬件门槛的开发者。