Entity

混合专家模型 (MoE)

一种稀疏激活的模型架构，仅激活部分专家网络，在保持性能的同时大幅降低计算成本。