使用 Unsloth 和 Hugging Face TRL 实现 2 倍速 LLM 微调

Hugging Face 团队介绍了由社区开发的轻量级工具 Unsloth，可将 LLM 微调速度提升至 2 倍并降低 40% 内存占用。该工具通过重写 PyTorch 模块为 Triton 内核优化运算，兼容 Llama 和 Mistral 架构，且支持 TRL 训练器套件。