Entity

可选量化

AirLLM提供的4位和8位分块量化选项,可在保持较高精度的同时实现最高3倍的推理加速。

相关文章