Entity

KV 缓存

在自回归推理中存储历史键值对，避免重复计算，是加速推理的关键技术。MLA 对其进行了优化。