unsloth
本地桌面应用，用于运行和微调 LLM、扩散模型等，覆盖 CPU/NVIDIA/AMD/Intel/macOS 多硬件。内置 LoRA/QLoRA/RL/GRPO 训练、GGUF 导出、OpenAI 兼容 API，还能接 Claude Code、Codex 等 agent 和 MCP。相比同类主打训练速度快、省显存，并把 run/train/deploy 整合进同一 UI，近期因支持 Qwen3.8、DeepSeek-V4 等新模型而热度高。注意采用 Apache-2.0/AGPL-3.0 双许可。
README
Unsloth 是第一款可以运行和训练模型的桌面应用。
⚡ 快速开始
下载适用于你操作系统的原生 Unsloth 桌面应用：
| 平台 | 链接 |
| Windows | 下载 |
| macOS | 下载 |
| Linux / Ubuntu (deb) | 下载 |
| Linux（AppImage） | 下载 |
| Linux（Arm64） | 下载 |
从 Unsloth 或 GitHub Releases 下载。
或者，如果你更喜欢手动安装：
macOS、Linux、WSL：
curl -fsSL https://unsloth.ai/install.sh | sh
Windows：
irm https://unsloth.ai/install.ps1 | iex
社区：
⭐ 功能
Unsloth 让你可以在本地运行、训练和部署 AI 模型，支持所有类型的模型。
运行与构建 AI
- 运行和训练 LLM（大型语言模型）、扩散模型、embedding（嵌入）模型和音频模型：Kimi K3、MiniMax-H3、Qwen3.8、Muse Glimmer、DeepSeek-V4、Gemma 4。
- Agents（智能体）与工具： 配合 Claude Code、Codex 和 MCP 使用本地模型，包括工具调用和代码执行。
- 搜索与 RAG（检索增强生成）： 使用私密且无限制的网页搜索、深度研究和 RAG。
- 图像与视频： 运行和训练图像和视频扩散模型或多模态模型。
- 音频： 使用私密且无限制的网页搜索、深度研究和 RAG。
- 硬件： 支持 CPU、NVIDIA、AMD、Intel、macOS 和多 GPU 配置。
- 远程访问： 通过安全的 Cloudflare HTTPS 远程访问本地模型。
训练与部署
- Fine-tuning（微调）： 以快 2 倍、节省 70% VRAM 的方式训练 LLM、扩散模型、TTS 和 embedding 模型。
- 完整支持： 支持强化学习、LoRA、QLoRA、全量微调、预训练、RL（强化学习）、GRPO、DPO 和 FP8。
- 导出与部署： 导出或部署模型，支持 GGUF、NVFP4、FP8 等更多格式。
- 数据集： 使用 Data Recipes 从 PDF、CSV、DOCX 等文件构建数据集。
- OpenAI 兼容 API： 通过 OpenAI 兼容 API提供模型服务，并可连接到云服务商。
🚀 Unsloth Start
Unsloth Start 用一条命令将 Claude Code、Codex 和其他 agent（智能体）连接到本地模型。
启动 Unsloth，加载模型，打开你的项目文件夹，然后运行：
unsloth start claude
将 claude 替换为任何受支持的 agent（智能体）：
| Agent（智能体） | 命令 |
|---|---|
| Claude Code | unsloth start claude |
| OpenAI Codex | unsloth start codex |
| Hermes Agent | unsloth start hermes |
| OpenClaw | unsloth start openclaw |
| OpenCode | unsloth start opencode |
Claude Code、Codex 和 OpenCode 可以保留当前模型，并将 Unsloth 用作本地子 agent（subagent）：
unsloth start claude --as-sub