Entity

llama-server

llama-server 是 llama.cpp 提供的 OpenAI 兼容 API 服务器，支持 HTTP 接口调用模型推理。