Qwen3.5 27B PinchBench测试:Q4KXL最佳,Q3可行
使用@UnslothAI的K_XL量化方法,对Qwen3.5 27B进行PinchBench测试,最佳3次结果,启用思考模式。
TL;DR:Q3 KXL(14.5GB)或Q4 KXL(18GB)
虽然总体“最佳”结果退化很小,但如果深入研究均值/标准差,Q4_K_XL总体平均约84%最佳。
Q3似乎可行,而Q2性能最低,当然。
TL;DR:Q3 KXL(14.5GB)或Q4 KXL(18GB)
虽然总体“最佳”结果退化很小,但如果深入研究均值/标准差,Q4_K_XL总体平均约84%最佳。
Q3似乎可行,而Q2性能最低,当然。