AI Feeds
开源项目

freellmapi

freellmapi

聚合 34 家 LLM 提供商的免费额度，统一暴露成单个 OpenAI 兼容 /v1 端点，自动路由和故障转移，还能接自定义 OpenAI 兼容服务。亮点是免费套餐堆叠后约 74 亿 tokens/月，支持 Claude Code、Codex、Aider 等主流 agent/IDE 直连，自带管理面板和加密 key 存储。仅限个人实验和学习，非生产用途，且需遵守各上游服务条款。

README

FreeLLMAPI

每月 74 亿 tokens。34 个免费 LLM 提供商。635 个免费模型端点。一个 OpenAI 兼容端点。

将数十家提供商的免费额度聚合起来，再加上自定义 OpenAI 兼容的 chat、embedding、image 和 audio 端点，统一暴露在单个 /v1 API 后面。密钥加密存储。路由器为每个请求选择最佳可用模型，当某个提供商被限流时自动切换到下一个提供商，并追踪每个 key 的使用量，确保你不超过每个免费层的额度上限。

CI GitHub stars License: MIT PRs Welcome Docker image Ask DeepWiki

freellmapi.co · 浏览完整目录：474 个模型家族、635 个免费端点

English · 简体中文

Get it on Google Play Download for macOS Download for Windows Self-host with Docker

FreeLLMAPI 仪表盘 —— 带每月 token 预算的 Models 页面

你的路由器会从一个签名源自动更新自身的模型目录：新免费模型、配额变化和兼容性修复无需 git pull 即可生效。免费安装获取的是月度快照，因此新模型在进入实时源 30 天后才会到达免费版；Premium 路由器当天即可收到。 前往 freellmapi.co 启用（$19/年，随时取消）。

目录

指南： 安装与部署 · API 参考 · 客户端与编程 agent · 提示词压缩 · 架构与内部实现 · 文档索引 · 贡献者指南

为什么做这个项目

每家主流 AI 实验室现在都提供免费额度——每月几百万 tokens、每天几千次请求。单独看每个额度都像是玩具。但把它们叠加起来，大约相当于每月 74 亿 tokens 的可用推理容量，涵盖 474 个模型家族 / 635 个提供商端点，从小巧快速到相当有能力的模型都有。

问题是手动叠加非常痛苦：三十四个不同的 SDK、三十四种不同的速率限制、三十四个可能出错的地方。FreeLLMAPI 把这一切收敛到一个 OpenAI 兼容端点。把任何 OpenAI 客户端库指向你的本地服务器，它就会在你添加了 key 的各提供商之间透明路由。

而且免费层的格局每周都在变化：提供商会发布模型、下架模型、在不通知的情况下修改配额。FreeLLMAPI 替你跟踪所有这些变化。路由器会自动从 freellmapi.co 拉取签名模型目录，因此你的安装无需 git pull 就能保持最新。更新速度详见 Premium（实时目录）。

免费层叠加 —— 34 家提供商每月约 74 亿 tokens 免费推理容量

支持的提供商

Google
Google		 Groq
Groq		 Cerebras
Cerebras		 OpenCode Zen
OpenCode Zen
Mistral
Mistral		 OpenRouter
OpenRouter		 Cloudflare
Cloudflare		 Cohere
Cohere
Z.ai (Zhipu)
Z.ai (Zhipu)		 NVIDIA
NVIDIA		 HuggingFace
HuggingFace
ModelScope
Qwen3 · DeepSeek V4 · GLM-5（需要阿里云 cn 绑定）

…… 以及另外 22 家免费提供商

外加一个 custom 提供商 —— 在 Keys 页面把 chat、embedding、image 或 audio 模型指向任何 OpenAI 兼容端点（llama.cpp、LM Studio、vLLM、本地 Ollama 或远程网关）。

完整且始终最新的列表位于 freellmapi.co/models，包含每个模型的速率限制、上下文窗口和免费 token 预算。

兼容的 CLI 与编程 agent

Claude Code
Claude Code		 Codex CLI
Codex CLI		 Gemini CLI
Gemini CLI		 Aider
Aider
Cline
Cline		 Roo Code
Roo Code		 Continue
Continue		 OpenCode
OpenCode
Goose
Goose		 Qwen Code
Qwen Code		 Kilo Code
Kilo Code		 Crush
Crush
Cursor
Cursor		 Zed
Zed		 JetBrains AI
JetBrains AI		 DeepSeek Harness
DeepSeek Harness

…… 以及任何 OpenAI 兼容客户端、Anthropic SDK、Gemini SDK 或支持 Ollama 的应用

其中大多数可以用一条命令完成自动配置 —— npx freellmapi setup-claude、setup-codex、setup-aider、setup-dsh（DeepSeek Harness），还有十一个类似的生成器，它们会获取你的实时目录、备份现有配置，并且绝不会覆盖已有内容。Claude Code 和 Codex 还提供零持久化的启动器（freellmapi launch、freellmapi launch-codex），仅将凭据注入子进程。Zed 和 JetBrains AI 通过可选的 Ollama 模拟 接入；Gemini CLI 在 /v1beta 上使用其原生 wire 协议。

每种工具的配置指南、setup CLI 参考、用于无 header 客户端的可撤销 URL token，以及 MCP 服务器，都在 Clients & coding agents →

对比

与 OpenRouter、LiteLLM 和 Portkey 的功能对比

基于公开文档，2026 年 7 月 —— 欢迎指正。

功能特性

功能概览

  • 完整的 OpenAI 风格接口 —— /v1/chat/completions、/v1/responses（Codex CLI 所需）、/v1/completions（编辑器幽灵文本自动补全）、/v1/images/generations、/v1/videos/generations、/v1/audio/speech、/v1/audio/transcriptions、/v1/embeddings 和 /v1/models —— 支持流式和非流式，可通过官方 SDK 或任何 OpenAI 兼容客户端调用。API 参考 →
  • Anthropic Messages API —— /v1/messages 通过同一路由器使用 Anthropic 的 wire 格式，因此 Claude Code 和官方 Anthropic SDK 可以直接跑在你的免费模型池上。详情 →
  • 原生 Gemini + Ollama 接口 —— Gemini CLI 可使用 /v1beta（generateContent、流式、token 计数、models），而可选的 Ollama 模拟为 Zed、JetBrains 和其他本地模型客户端提供 NDJSON chat/generate、tags、metadata 和 embeddings。
  • Fusion（多模型综合） —— 请求虚拟的 fusion 模型，路由器把你的提示词并行分发到一组多样化的免费模型，然后由裁判模型综合各草稿生成一个答案。详情 →
  • 图像、视频与语音生成 —— /v1/images/generations、/v1/videos/generations 和 /v1/audio/speech 在提供媒体模型的提供商之间路由；图像和语音还接受自定义 OpenAI 兼容媒体端点。视频任务在同步和队列型提供商之间做了规范化，返回已完成的 MP4。
  • 工具调用与结构化输出 —— OpenAI 风格的 tools 在提供商之间完整往返（纯文本工具调用会被救回为真正的 tool_calls），此外还支持 response_format、seed、logprobs、惩罚参数及其余采样参数按提供商透传。
  • 智能路由，六种策略 —— 每模型的实时速度/能力/可靠性评分对你的链路排序；自动故障转移在遇到 429/5xx 时重试下一个模型，带冷却时间和 key 轮换。路由详解 →
  • 统一模型与配置档 —— 同一模型在多个提供商上的端点合并为一个条目，组内严格故障转移；命名回退链配置档（coding 链、vision 链）可从仪表盘切换，或通过 auto:<profile> 按请求指定。
  • 按 key 速率跟踪 —— 每个 (platform, model, key) 组合的 RPM/RPD/TPM/TPD 计数器，会学习提供商报告的限额上限，确保路由始终在各项额度之下。
  • 自动更新的模型目录 —— 路由器每天两次从 freellmapi.co 同步签名目录：新模型、配额变化和提供商怪癖修复自动生效。免费安装跟踪月度快照，每个模型在进入实时源 30 天后加入；Premium 路由器当天收到。Premium →
  • 粘性会话与上下文交接 —— 对话在 30 分钟内保持在同一模型上；可选的紧凑交接摘要确保中途切换模型时线程仍然连贯。详情 →
  • 提示词压缩（可选） —— 一个共享的、故障放行的请求管道可以在缓存查找和路由之前去重提示词、过滤工具输出、压缩重复 JSON 和修剪过期上下文。详情 →
  • 加密密钥，一个 token 输出 —— 提供商密钥使用 AES-256-GCM 加密存储在 SQLite 中，每次请求在内存中解密；你的应用永远只看到一个统一的 freellmapi-… bearer token。
  • 管理仪表盘与分析 —— React UI 管理密钥、重排链路、运行 playground、查看 24h–90d 时间窗口的 p50/p95/TTFT 分析；登录保护、深色/浅色主题、60 种语言。
  • MCP 服务器与交互式文档 —— agent 可以通过 /mcp 探查可用模型、提供商健康状况和路由策略；零依赖的 OpenAPI 查看器位于 /v1/docs。编程 agent →
  • 运维便利 —— 可选响应缓存、加密数据库备份、定期密钥健康检查、批量密钥导入/导出、声明式启动配置。安装与部署 →
  • 可在任何 Node 20+ 环境运行 —— Windows、macOS、Linux 服务器或小型 ARM SBC（包括 Raspberry Pi）。空闲约 40 MB RSS，可跑在 PM2 / systemd / 任何你喜欢的进程管理器后面。

范围刻意保持克制 —— 详见 尚不支持的功能。

快速开始

一行命令（需要 Docker —— 会创建 ~/freellmapi、生成加密密钥、拉取镜像并启动容器）：

curl -fsSL https://freellmapi.co/install.sh | bash

想先看看脚本内容再决定是否执行？脚本在这里。重复运行是安全的：你的 .env（和加密密钥）会被保留，容器会更新到 :latest。

打开 http://localhost:3001，在 Keys 页面添加你的提供商密钥，按需重新排列 Fallback Chain，然后从 Keys 页面顶部获取你的统一 API key。这个统一 key 就是你在 OpenAI SDK 中配置的。

在 Windows 上，最简单的路径是桌面版 .exe 安装程序（从 Releases 下载）（见下文）。在 Android 上，参见实验性的 Termux 指南。

其他所有内容 —— Docker Compose、本地开发、声明式启动配置、生产构建、局域网访问和备份 —— 都在 docs/install.md。

桌面应用

一个原生菜单栏应用位于 desktop/：完整路由器 + 仪表盘在系统托盘本地运行，带一个毛玻璃弹窗显示实时请求统计。

FreeLLMAPI 桌面应用

从 Releases 下载 —— macOS .dmg 和 Windows .exe 安装程序随每个版本发布。无需设置账号或密码：你唯一需要的凭据是托盘弹窗中的统一 API key。从源码构建的步骤和数据存储位置：docs/install.md。

兼容 OpenAI 客户端

任何可以指向 OpenAI 兼容 base URL 的工具都可以：设置为 http://localhost:3001/v1，使用仪表盘上的统一 key。Claude Code、Codex CLI、Cline / Roo Code、Continue（包括内联自动补全）、Aider、opencode 和 Cursor 各有一个简短的配置指南，见 docs/clients.md —— 路由器同时也是一个 MCP 服务器，你的 agent 可以在会话中随时探查。

最快的配置方式是根据你本地服务器上可用的模型自动生成：

npx freellmapi setup-claude --url http://localhost:3001 --api-key <unified-key>

每个生成器都支持 --dry-run，在修改现有文件之前会创建带时间戳的备份，并合并到用户的配置中。启动器将凭据完全排除在配置文件之外：npx freellmapi launch 用于 Claude Code，npx freellmapi launch-codex 用于 Codex。

Agent 自动配置 Base URL
Claude Code setup-claude root
Codex CLI setup-codex /v1
Cline setup-cline /v1
Continue setup-continue /v1
Aider setup-aider /v1
OpenCode setup-opencode /v1
Goose setup-goose /v1
Qwen Code setup-qwen /v1（或原生 /v1beta）
Roo / Kilo / Crush setup-roo / setup-kilo / setup-crush /v1
DeepSeek Harness setup-dsh /v1
MiMo Code setup-mimo /v1
Cursor setup-cursor 指南 公网 /v1 URL

FreeLLMAPI 是本地优先、单用户设计。你的提供商密钥留在你的 SQLite 数据库中，静态加密，请求从你的机器直达你启用的上游提供商。

语言

仪表盘支持 60 种语言（桌面托盘菜单 6 种）。UI 在首次加载时自动检测浏览器/系统语言，你可以随时从 ⋯ → Settings 切换；选择会被记住。从右到左的语言（العربية、עברית、فارسی、اردو）会自动翻转整个布局，而且只加载当前语言的词典——其余语言永远不会占用你的带宽。

United States China Spain France Brazil Italy India Saudi Arabia Bangladesh Russia Pakistan Indonesia Germany Japan Kenya Türkiye Vietnam South Korea Iran Thailand Poland Ukraine Myanmar Romania Netherlands Malaysia Philippines Nigeria Ethiopia Uzbekistan Azerbaijan Sri Lanka Nepal Cambodia Greece Czechia Hungary Sweden Israel <img src="https://flagcdn.com/24x18/dk.png" srcset="

开源项目tashfeenahmed2026-08-24原文

相关内容