跳到正文
GEOZ
让优质内容被 AI 引用
首页
GEO 分析工具
GEO知识库与问答
AI大模型
llms.txt
schema
RSS
菜单
Entity
可选量化
AirLLM提供的4位和8位分块量化选项,可在保持较高精度的同时实现最高3倍的推理加速。
相关文章
AirLLM:4GB GPU上运行700亿参数大模型的开源框架