llmfit
终端工具，自动检测你的硬件（RAM、CPU、GPU）并推荐最适合本地运行的LLM模型。支持数百模型和多种运行后端（Ollama、llama.cpp、MLX等），从质量、速度、适配度和上下文四个维度综合评分，同时提供交互式TUI和CLI模式，还能进行真实基准测试贡献数据。亮点在于一站式解决‘我的设备能跑哪些模型’的痛点，适合想本地部署LLM但怕盲目下载浪费时间的开发者。
README
llmfit
📊 新功能：基准测试与分享——来自你机器的真实数据，让所有人的估算更准确。 下载一个模型，启动服务，在你的硬件上测量真实的 tok/s 性能——然后通过 TUI 直接提交结果到本项目的 PR。无需
ghCLI，无需第三方账户。每次运行的结果首先保存在本地，你自己的测量值会替换估算值更新到适配表中，每个合并的提交将在下一个版本中发布：任何拥有相同硬件的人，在运行基准测试之前，就能看到已验证的✓数据。跟随逐步基准测试指南 →
数百个模型 & 提供商。一条命令找到适合你硬件的模型。
一个终端工具，能够将 LLM 模型适配到你的系统 RAM、CPU 和 GPU。检测你的硬件，从质量、速度、适配度和上下文维度为每个模型打分，并告诉你哪些模型能在你的机器上良好运行。
内置交互式 TUI（默认）和传统 CLI 模式。支持多 GPU 设置、MoE 架构、动态量化选择、速度估算以及本地运行时提供商（Ollama、llama.cpp、MLX、Docker Model Runner、LM Studio）。
姊妹项目：
- sympozium —— 在 Kubernetes 中管理 agent。
- llmserve —— 用于服务本地 LLM 模型的简单 TUI。选择一个模型，选择一个后端，启动服务。
- llama-panel —— 用于管理本地 llama-server 的原生 macOS 应用。
文档
| 入门 | 安装 · 使用 · 工作原理 |
| 指南 | TUI 指南 · 逐步基准测试 · CLI 与自动化 · 运行时提供商 · OpenClaw 集成 |
| 参考 | 工作原理（完整版） · 平台与 GPU 支持 · 自定义模型 · 开发 |
| 项目 | 贡献 · 替代方案 · 代码签名 · 许可证 |
安装
Windows
scoop install llmfit
如果未安装 Scoop，请遵循 Scoop 安装指南。
macOS / Linux
Homebrew
预构建二进制（推荐，适用于所有 macOS/Linux 版本）：
brew install AlexsJones/llmfit/llmfit
或者通过 homebrew-core 公式（对于没有预构建瓶的 macOS 版本，从源码构建）：
brew install llmfit
MacPorts
port install llmfit
快速安装
curl -fsSL https://llmfit.axjns.dev/install.sh | sh
从 GitHub 下载最新版本的二进制文件并安装到 /usr/local/bin（若无 sudo 权限则安装到 ~/.local/bin）。
无需 sudo 安装到 ~/.local/bin：
curl -fsSL https://llmfit.axjns.dev/install.sh | sh -s -- --local
uv / pip
安装或更新 llmfit：
uv tool install -U llmfit
无需安装直接运行：
uvx llmfit
你也可以使用 pip 或 uv 等工具正常将 llmfit 作为 Python 包安装。
Docker / Podman
docker run ghcr.io/alexsjones/llmfit
这会输出 llmfit recommend 命令的 JSON 结果。JSON 可利用 jq 进一步查询。
podman run ghcr.io/alexsjones/llmfit recommend --use-case coding | jq '.models[].name'
若要启动交互式 TUI，请传入全局 --tui 标志：
docker run --rm -it ghcr.io/alexsjones/llmfit --tui
从源码构建
git clone https://github.com/AlexsJones/llmfit.git
cd llmfit
cargo build --release
# 二进制文件位于 target/release/llmfit
使用
llmfit # 交互式 TUI：你的硬件，每个模型，按排名展示
TUI 在顶部显示检测到的硬件规格，下方为每个模型在适配度、速度、质量和上下文维度上的得分。有关导航、规划、模拟、下载、社区排行榜和基准测试，请参阅 TUI 指南。
对于脚本、agent 和传统终端输出：
llmfit fit # 所有模型按适配度排序的表格
llmfit recommend --json # 最推荐模型的 JSON 输出（供 agent/脚本消费）
llmfit info "<model>" # 单个模型：适配度分析、估算依据、验证命令
llmfit bench # 针对运行中的提供商测量真实的 tok/s/TTFT
llmfit doctor # 硬件检测报告，用于提交 bug
完整参考：CLI 与自动化。
工作原理
llmfit 检测你的硬件（RAM、CPU、GPU/VRAM、后端），然后为目录中每个模型在四个维度打分：内存适配度、估算速度、质量和上下文。速度估算基于内存带宽模型，该模型依托运行时采样和社区实测数据——每个估算都包含其输入，因此 llmfit info 会精确显示该数字基于何种假设，以及如何在你机器上验证。
完整细节（包括估算公式和模型数据库）：llmfit 工作原理。
贡献
欢迎贡献，尤其是新模型。
提交 PR 之前
请在推送修改前运行 cargo fmt。大多数 CI 检查失败均由未格式化代码导致：
cargo fmt
添加模型的指南——本地添加（无需重新构建）或添加到内置目录：自定义模型。
替代方案
如果你在寻找不同的方法，可以试试 llm-checker——一个集成了 Ollama 的 Node.js CLI 工具，能够直接拉取并基准测试模型。它通过 Ollama 在你的硬件上实际运行模型，而非通过规格估算，因此更偏实操作。如果你已安装 Ollama 并希望测试真实性能，这是个不错的选择。注意它不支持 MoE（混合专家）架构——所有模型被视为密集模型，因此 Mixtral 或 DeepSeek-V3 这类模型的内存估算会基于总参数数量，而非较小的活跃子集。
代码签名
llmfit 的 Windows 发布二进制文件已通过 SignPath.io 进行数字签名（Authenticode），签名证书由 SignPath Foundation 免费提供。
签名在发布流水线中自动完成：只有由 GitHub Actions 从本仓库构建的工件才会被提交签名，签名请求由项目维护者（@AlexsJones）批准。
代码签名策略： 请参阅 SignPath Foundation 代码签名策略与条款。
隐私： 除非用户或安装/操作人员明确请求，否则本程序不会向其他网络系统传输任何信息。llmfit 仅在你显式使用相应功能（例如模型下载、运行时提供商查询或社区排行榜）时才会联系外部服务。
许可证
MIT