Google 发布 Gemma 开源大语言模型

Google 发布名为 Gemma 的 4 个开源 LLM 模型，其中 7B 参数版本采用 6T token 预训练，8K context 下得分 63.75。Hugging Face 提供 transformers 4.38 集成支持，并说明使用 QLoRA 在单张 A10G GPU 上微调 gemma-7b 需约 9 小时。