Teknium请求推荐本地模型,引用讨论不同VRAM级别的最佳模型
在这里帮助我们提供你的推荐!
我们正在努力改善Hermes中的本地模型体验,各个显存级别的最佳本地模型是什么?
我的盲目猜测,请纠正:
8-16 GB VRAM
Gemma4 12B
24-32 GB VRAM
Qwen3.6 27B
Qwen3.6 35B
128 GB VRAM (Spark, M3 Max)
??? 你能用DSv4-Flash吗?
我们正在努力改善Hermes中的本地模型体验,各个显存级别的最佳本地模型是什么?
我的盲目猜测,请纠正:
8-16 GB VRAM
Gemma4 12B
24-32 GB VRAM
Qwen3.6 27B
Qwen3.6 35B
128 GB VRAM (Spark, M3 Max)
??? 你能用DSv4-Flash吗?