跳到正文
GEOZ
让优质内容被 AI 引用
首页
GEO 分析工具
GEO知识库与问答
AI大模型
llms.txt
schema
RSS
菜单
Entity
W4A16
权重4位、激活16位的量化方案,常用于压缩模型权重。
术语属性
权重位宽:
4
激活位宽:
16
相关文章
MI300X 上跑 Gemma 4 E2B:fp8 最快,却离原始权重最远
把嵌入表也压到4位:Gemma 4 E2B 在单张 T4 上显存降到 2.86 GiB