动态

Qwen3.5 27B PinchBench测试:Q4KXL最佳,Q3可行

Qwen3.5 27B PinchBench测试:Q4KXL最佳,Q3可行
Zach Mueller
使用@UnslothAI的K_XL量化方法,对Qwen3.5 27B进行PinchBench测试,最佳3次结果,启用思考模式。

TL;DR:Q3 KXL(14.5GB)或Q4 KXL(18GB)

虽然总体“最佳”结果退化很小,但如果深入研究均值/标准差,Q4_K_XL总体平均约84%最佳。

Q3似乎可行,而Q2性能最低,当然。
动态Zach Mueller2026-03-21原文

相关内容