GEOZ

Entity

DeepInfer

DeepSeek开源的高性能推理框架，用于大规模生产服务。

术语属性

  • 类型：推理框架
  • 开源协议：Apache 2.0
  • 支持硬件：NVIDIA SM100 GPU, 华为昇腾950 NPU

相关文章

DeepSeek 开源生产级推理框架 DeepInfer：能跑多快，又缺了什么