跳到正文
GEOZ
让优质内容被 AI 引用
首页
GEO 分析工具
GEO知识库与问答
AI大模型
llms.txt
schema
RSS
菜单
Entity
Gemma 4 E2B
Google 开源的小型大语言模型,本教程中被部署为推理服务的模型本体,权重挂载路径为 /mnt/models/gemma-4-E2B-it。
术语属性
模型路径:
/mnt/models/gemma-4-E2B-it
提供方:
Google
相关文章
MI300X 上跑 Gemma 4 E2B:fp8 最快,却离原始权重最远
4GB 显存跑 Gemma 4:重打包 QAT 权重让解码快 1.12 倍
把嵌入表也压到4位:Gemma 4 E2B 在单张 T4 上显存降到 2.86 GiB
单卡 MI300X 跑 Gemma 4 E2B:64 流吞吐破万,每美元 2713 tok/s
Gemma 4 上 Cloud Run:单文件 MCP 服务器包办部署与压测,顺带踩了 FastMCP 改名坑