DeepSeek 开源推理框架 DeepInfer 与 deepseek-recipe

DeepSeek 以 Apache License 2.0 开源了内部推理框架 DeepInfer，即驱动其 V4.1-Flash 模型快速响应的部署软件，基于 vLLM 构建并加入优化算子、多芯片分布式处理和更快的文本生成技术，未来 DeepSeek 模型的代码也将开源。