跳到正文
原文
Hugging Face Blog·· 2024-04-03AI 评分28

在 Xeon 上用 🤗 Optimum Intel 实现极速 SetFit 推理

AI 导读

借助 🤗 Optimum Intel 对 SetFit 模型做训练后静态量化,可在 Intel Xeon CPU 上把推理速度提升 7.8 倍,实现生产级部署。

当前提供 AI 导读,完整正文请阅读原文。

来源:Hugging Face Blog · huggingface.co