llama.cpp 支持 Decision models 本地推理端点

RT @ggerganov: llama.cpp 中的 Decision models 现已可用

最新的 llama 构建中已提供 `/v1/systemone` 端点。用它可以在本地高效且私密地进行 Jev 风格的推理。支持多种开放模型,后续还会有更多。

https://t.co/D3MUi78kXn