Keras 新增一行代码量化模型,支持多种量化模式。
Keras 现在只需一行代码即可量化模型!
你可以量化自己的模型或从 KerasHub 获取的任何预训练模型。
只需运行 model.quantize(quantization_mode)。
支持 int4、int8、float8 和 GPTQ 模式的量化。
你可以量化自己的模型或从 KerasHub 获取的任何预训练模型。
只需运行 model.quantize(quantization_mode)。
支持 int4、int8、float8 和 GPTQ 模式的量化。