展示llama-server和openclaw工具部署LLM
llama-server -hf ggml-org/gemma-4-26b-a4b-it-GGUF:Q4_K_M
openclaw onboard --non-interactive \
--auth-choice custom-api-key \
--custom-base-url "http://127.0.0.1:8080/v1" \
--custom-model-id "ggml-org-gemma-4-26b-a4b-gguf" \
--custom-api-key "llama.cpp" \
--secret-input-mode plaintext \
--custom-compatibility openai \
--accept-risk
openclaw onboard --non-interactive \
--auth-choice custom-api-key \
--custom-base-url "http://127.0.0.1:8080/v1" \
--custom-model-id "ggml-org-gemma-4-26b-a4b-gguf" \
--custom-api-key "llama.cpp" \
--secret-input-mode plaintext \
--custom-compatibility openai \
--accept-risk
醒来发现我的提及全是这些
我和@davemorin试图对Anthropic晓之以理,我们能做的最好就是把这推迟了一周。
时间点巧合得有趣,他们先是在封闭的框架里复制了一些流行功能,然后封锁了开源。