Entity

Prefix Cache

缓存LLM推理中公共前缀的KV状态，避免重复计算，加速相似请求的处理。