Entity

Disaggregated Serving

将推理过程拆分为prefill（预填充）和decode（解码）两个阶段，分别由独立服务器处理，以降低首token延迟。