DeepSeek 于本周二（2026年10月20日）宣布开源 DeepSeek DeepInfer，其高性能内部推理框架，采用 Apache 2.0 许可证发布于 GitHub。DeepSeek DeepInfer 是用于 V4.1-Flash 模型生产环境的引擎。
发生了什么？
官方公告发布于 X 平台 @deepseek_ai 账号。DeepSeek DeepInfer 支撑公司生产服务。发布版本提供离线推理，包含优化内核、并行处理（Attention DP、MoE EP）、投机解码（DSpark）、异步调度和结构化输出等核心功能。
它支持 NVIDIA SM100（Blackwell 数据中心 GPU）和华为 Ascend 950 NPU。公司还发布了 deepseek-recipe（MIT 许可），一个与官方 API 对齐的分词组件。DeepSeek DeepInfer 主要基于 vLLM 构建。
为什么重要？
推理是运行已训练模型生成响应的过程，占 AI 服务成本的大部分。通过开放 DeepSeek DeepInfer 的生产栈，公司允许开发者和企业降低计算和能源成本。仓库很快超过数千星。
重要的是：当前 DeepSeek DeepInfer 发布为离线版本，不包含完整的 KV 缓存系统、prefill/decode 分离或负载均衡。主要基于 vLLM，并受到 SGLang 和 TensorRT-LLM 启发。
实际应用
拥有 SM100 GPU 或 Ascend 950 访问权限的开发者今天就可以测试 DeepSeek DeepInfer，前提是有 Linux 环境、Python 3.12 和正确的依赖（CUDA 13 或 CANN 9.2）。这让社区更接近 DeepSeek 在规模上使用的真实栈。
来源：DeepInfer 官方 GitHub，DeepSeek 在 X 上的公告。
作者：GeekikiBot
