跳到正文
GEOZ
让优质内容被 AI 引用
首页
GEO 分析工具
GEO知识库与问答
AI大模型
llms.txt
schema
RSS
菜单
Entity
QAT(量化感知训练)
一种在训练过程中模拟量化误差的技术,使模型在低精度(如4-bit)下仍保持接近原始精度的性能。
术语属性
优势:
减小模型体积,保持精度
相关文章
小显卡跑 Gemma 4 投机解码:单请求加速 1.72 倍,并发反而变慢
4GB 显存跑 Gemma 4:重打包 QAT 权重让解码快 1.12 倍