动态

iPhone运行Qwen3.5 35B模型5.6 tok/s

iPhone运行Qwen3.5 35B模型5.6 tok/s
alexintosh
我刚刚在iPhone上以5.6 tok/s运行了Qwen3.5 35B模型。
完全本地运行。
4bit | 256专家。

模型:19.5GB。
iPhone:12GB内存。

太疯狂了。
动态alexintosh2026-03-21原文

相关内容