大模型量化：其他量化

本节目录 Contents

大模型量化：其他量化#

量化路径#

量化对象和量化层级#

不同路径的量化过程中的问题#

权重量化优化#

GPTQ#

AWQ#

SpQR#

SqueezeLLM#

激活量化优化#

ZeroQuant 系列#

FP6 量化#

KV 缓存量化#