Entity

FP4 Quantization-Aware Training

对MoE专家权重和CSA索引器QK路径进行FP4量化，用FP8扩展动态范围，降低内存与计算开销。