GEOZ

Entity

NVIDIA L4 GPU

NVIDIA 的推理优化型数据中心 GPU,本教程中作为 Cloud Run 服务的加速硬件,用于承载 Gemma 4 E2B 的 vLLM 推理。

术语属性

  • 用途模型推理加速
  • 挂载方式单条 gcloud 命令

相关文章