GEOZ

Entity

BMCook

大模型“瘦身”工具库。一个专注于大模型高效压缩的工具,通过整合量化、剪枝、知识蒸馏、专家化(MoE)等多种算法,在最大限度保持模型性能(如90%+)的同时,大幅提升推理速度(如加速10倍)。

相关文章