Entity

训练后量化

传统量化路线，模型训练完成后将权重映射到更粗的数值网格，误差只能靠标定数据事后补偿，常见方案如 GGUF Q4_K_M 和 AWQ 4 比特。