GEOZ

Entity

GGUF(GPT-Generated Unified Format)

一种用于存储大型语言模型权重的文件格式,设计用于与llama.cpp等推理框架高效协作,支持量化以在资源受限的设备上运行。

相关文章