Entity

AirLLM

一个轻量化的大语言模型推理框架，通过创新的内存优化技术，能够在有限的GPU显存上运行大规模语言模型。