Qwen3.5蒸馏模型在Mac Mini本地运行性能优异
非常看好开源和本地模型。想象一下,在你上个月花600美元买的16GB Mac Mini上本地运行接近Opus级别的模型。这个27B Qwen3.5蒸馏模型是在Claude 4.6 Opus推理轨迹上训练的,并且取得了实际成绩:- 在SWE-bench上击败了Claude Sonnet 4.5- 保持96.91%的HumanEval- 将CoT(思维链)膨胀减少了24%- 以4位量化运行。为什么这很重要:本地智能体循环变得更便宜、更快、更实用。前沿模型不会永远通过订阅来补贴廉价令牌。HF上已有30万+下载量。链接如下👇🏻。我们还在早期。