Hugging Face Blog·· 2020-11-02AI 评分32
Hugging Face Transformers 与 Ray Tune 集成实现超参数搜索
Hyperparameter Search with Transformers and Ray Tune
AI 导读
Hugging Face Transformers 3.1 与 Ray Tune 集成,简化大语言模型超参数调优。实验显示,Population-based Training 在 BERT 上取得 78% 最佳验证准确率,优于网格搜索。用户仅需几行代码即可调用 Ray Tune 算法进行微调。
来源:Hugging Face Blog · huggingface.co