跳到正文
原文
Hugging Face Blog·· 2022-01-11AI 评分38

用 Hugging Face Transformers 和 Amazon SageMaker 部署 GPT-J 6B 推理

AI 导读

Hugging Face 发布教程,介绍如何用 Amazon SageMaker 和 Hugging Face Inference Toolkit 部署 GPT-J 6B 做实时推理,可在 NVIDIA T4 等常规 GPU 实例(约 500 美元/月)上运行。

当前提供 AI 导读,完整正文请阅读原文。

来源:Hugging Face Blog · huggingface.co