Hugging Face Blog·· 2021-06-03AI 评分38
GPT-Neo 与 Hugging Face 加速推理 API 中的少样本学习实践
Few-shot learning in practice: GPT-Neo and the 🤗 Accelerated Inference API
AI 导读
EleutherAI GPT-Neo 结合 Hugging Face 加速推理 API 支持少样本学习,API 提供高达 100 倍推理加速。GPT-Neo (2.7B) 需 3-4 个示例即可实现良好泛化,相比 GPT-3 (175B) 在零样本任务上表现较弱。通过调节温度、最大新 token 数及结束序列等超参数,可控制生成结果,但需注意情感分析等场景可能出现的错误预测风险。
来源:Hugging Face Blog · huggingface.co