GLM 5.2 DSpark 预览发布，加速推理1.5倍
RT @mgoin_: GLM 5.2 DSpark 预览来了！✨
https://t.co/DQOMYEiY1o
这是第一个针对非DeepSeek前沿模型的DSpark投机器，使用Speculators训练并在vLLM nightly上运行，在4×B300上为GLM-5.2-FP8实现约1.5倍解码加速。更强的检查点即将推出！
https://t.co/DQOMYEiY1o
这是第一个针对非DeepSeek前沿模型的DSpark投机器，使用Speculators训练并在vLLM nightly上运行，在4×B300上为GLM-5.2-FP8实现约1.5倍解码加速。更强的检查点即将推出！