GEOZ

Entity

CompressedTensors

vLLM中用于加载压缩张量(如量化权重)的格式。

术语属性

  • 支持:W4A16

相关文章