DeepSeek 开源高性能推理框架 DeepInfer

DeepSeek 开源其生产环境使用的高性能推理框架 DeepInfer，首发提供 DeepSeek-V4.1-Flash 的离线推理支持。该框架基于 Apache License 2.0 开源，支持 NVIDIA SM100 GPU 与华为昇腾 950 NPU，集成了 FlashMLA、DeepGEMM 等优化算子，并具备 MoE 并行、异步调度及确定性采样能力。