Hugging Face Blog·· 2024-04-03AI 评分
在 Xeon 上用 🤗 Optimum Intel 实现极速 SetFit 推理
借助 🤗 Optimum Intel 对 SetFit 模型做训练后静态量化,可在 Intel Xeon CPU 上把推理速度提升 7.8 倍,实现生产级部署。
当前提供 AI 导读,完整正文请阅读原文。
来源:Hugging Face Blog · huggingface.co
借助 🤗 Optimum Intel 对 SetFit 模型做训练后静态量化,可在 Intel Xeon CPU 上把推理速度提升 7.8 倍,实现生产级部署。
当前提供 AI 导读,完整正文请阅读原文。
来源:Hugging Face Blog · huggingface.co