Hugging Face 发布 Code Llama 模型及生态系统集成
Hugging Face 发布 Code Llama 家族模型，提供 7B、13B 和 34B 参数版本及其 Python 特化与指令微调变体。基于 Llama 2 并经过 500B tokens 代码数据训练，支持 16k 上下文扩展至 100k。
推荐理由：展示了 Code Llama 在 Hugging Face 生态中的完整部署与微调路径，为工程师提供了可复用的生产级工具链。
公司与模型
Meta / Llama 最新动态
Meta 的 AI 动态：Llama 与 Muse 系列模型、超级智能实验室与 Meta AI 产品。
22 条精选近 30 天 13 条共收录 165 条
更新
精选归档 · 第 2 页
Hugging Face Blog精选AI 评分8686
Hugging Face Blog精选AI 评分6565 StackLLaMA: 基于 RLHF 微调 LLaMA 模型的实战指南
Hugging Face 团队开源了 StackLLaMA 模型及 RLHF 训练全流程实现，展示了如何通过监督微调（SFT）、奖励建模（RM）和强化学习（RLHF）让 7B 规模的 LLaMA 模型回答 Stack Exchange 问题。该流程支持使用 LoRA 和 8-bit 量化技术将模型部署在单块 80GB A100 GPU 上，降低了模型对齐训练的硬件门槛。
推荐理由：原文提供了基于 LLaMA 模型进行 RLHF 训练的完整流水线实现与参数优化策略，适合需要降低模型对齐训练硬件门槛的开发者。