llama.cpp 现已支持运行 Clef 模型,并附 Ollama 速度对比测试

RT @lucataco:现在你可以通过 llama.cpp 运行 Clef 了!

llama serve -hf ggml-org/Clef-GGUF

在我的 M5 Max MacBook Pro 上做的 Ollama 与 llama.cpp 速度测试:https://t.co/sTec3RvOk1