Entity

GGML

一种模型格式和推理库，支持在CPU和GPU上高效运行大型语言模型，通过量化技术优化内存使用和计算速度。