Hugging Face 推出在 Intel Meteor Lake 笔记本上运行 Phi-2 的 OpenVINO 量化方案

Hugging Face 发布在 Intel Meteor Lake 笔记本上运行 Phi-2 的方案，使用 Intel OpenVINO 和 Optimum Intel 对 microsoft/phi-2 做4-bit 权重量化，再运行在搭载 Core Ultra 7 155H 的中端笔记本上。