DeepSeek 开源推理框架 DeepInfer,采用 Apache License 2.0
中文摘要
DeepSeek 以 Apache License 2.0 开源推理框架 DeepInfer,用于支撑 V4.1-Flash 模型的大规模快速推理。
English Summary
DeepSeek open-sourced its DeepInfer inference framework under Apache License 2.0, supporting large-scale fast inference for the V4.1-Flash model.
Original Excerpt
DeepSeek 在 X 上宣布以 Apache License 2.0 开源内部推理框架 DeepInfer,该框架支撑其 V4.1-Flash 模型的大规模快速推理。