Entity

W4A16

权重4位、激活16位的量化方案，常用于压缩模型权重。