LibreChat

开源自托管的 AI 聊天平台，把 OpenAI、Anthropic、Google、Bedrock、Ollama 等模型和自定义兼容端点统一到一个界面。除多模型对话外，还内置无代码 Agent 搭建、MCP 工具接入、Skills 指令包、Subagent、Code Interpreter 与 Artifacts。多用户鉴权、管理后台和可恢复流式响应齐全，比多数同类项目更偏企业自部署场景。

README

LibreChat

English · 中文

🚀 v0.8.8-rc3 新特性

Agent 管理 API（beta）： 创建、发现、更新和删除 Agent；管理 Agent 文件与 Skills；通过绑定部署的 OIDC 身份为机器客户端进行认证，同时保留现有的角色与 Agent 访问控制。
附加工作区（高度实验性）： 为每个托管或个人的代码 worker 选择或保存每个 Agent 的默认工作区，然后让 Agent 检查目录树、读取和搜索文件、撰写变更，并在受控超时内运行 Bash。个人 worker 支持受限的自助注册、就绪状态，以及每个 Agent 的 Git 身份。
后台工具控制： 可选择取消普通后台工具（包括附加的 Bash），同时保持分离的 Subagent 执行独立进行。
代码审批控制： 在管理员允许的场景下，为文件写入和命令执行选择 Ask、Allow 或 Deny，包括针对可信附加环境的 Full access 模式。File Search 和 Run Code 同样遵循角色授权。
手动上下文压缩： 在上下文窗口填满之前启动一次仅摘要的回合，同时根据部署的摘要策略保留近期的对话内容。
Context Usage： 检查对话、保留的工具流量、Agent 指令、缓存、成本和余量压力，且不会重复计算类别的子集。
统一附件： 一次上传，让 LibreChat 将内容路由至模型或提取的文本，然后仅在需要时提供 File Search 和 Code 工具。
模型： 为 OpenAI 和 Agents 端点新增 GPT-6 Astra，支持 Responses API 路由和工具调用。
Agent 与聊天 UI： 统一工具活动、推理、搜索和 Agent 工作流；为聊天和收藏新增一个可拖拽的 Pinned 区域，状态图标形变，高对比度主题，富文本消息复制，更清晰的侧边栏标题，以及更精细的实时阶段布局。
可观测性： 通过 OpenTelemetry 导出关联的应用程序日志，配置允许列表中的 Langfuse 追踪身份与元数据，为浏览器诊断标记客户端构建 ID，并将 Insights 限定到已授权的 Agent。
可靠性与安全性： 强化 Agent 延续与检查点恢复、Redis 存活检测、DocumentDB 协调、OpenID 与 MCP OAuth 会话、共享链接限流、租户隔离、附件边界，以及上传错误处理。

阅读完整的 v0.8.8-rc3 更新日志。

✨ 功能特性

🖥️ UI 与体验：灵感来自 ChatGPT，并具有增强的设计与功能
🤖 AI 模型选择：
- Anthropic (Claude)、AWS Bedrock、OpenAI、Azure OpenAI、Google、Vertex AI、OpenAI Responses API（含 Azure）
- 自定义端点：在 LibreChat 中使用任何 OpenAI 兼容的 API，无需代理
- 兼容本地与远程 AI 提供商：
  - Ollama、AMD Lemonade、groq、Cohere、Mistral AI、Apple MLX、koboldcpp、together.ai、
  - OpenRouter、Helicone、Perplexity、ShuttleAI、Deepseek、Qwen 等
🔧 代码解释器 API：
- 在 Python、Node.js (JS/TS)、Go、C/C++、Java、PHP、Rust 和 Fortran 中安全地沙箱执行
- 无缝文件处理：直接上传、处理和下载文件
- 无隐私顾虑：完全隔离且安全的执行
- 开源且可自托管：由 ClickHouse/code-interpreter 提供支持
🔦 Agent 与工具集成：
- LibreChat Agents：
  - 无代码自定义助手：构建专门化的、AI 驱动的助手
  - Agent 市场：发现并部署社区构建的 agent
  - 协同共享：与特定用户和群组共享 agent
  - 灵活且可扩展：使用 MCP Servers、工具、文件搜索、代码执行等
  - Skills：创建可复用的 SKILL.md 指令包，用于手动、自动或常驻的 agent 工作流
  - Agent Plugins：实验性地将部署级 Skills 和 MCP 服务器打包为启动时加载的包
  - Subagents：将专注的工作委派给具有各自上下文窗口的隔离子 agent 运行
  - Agent 管理 API：通过绑定部署的 OIDC 客户端自动化 Agent、文件和 Skill 管理
  - 附加代码工作区：让 Agent 在托管或个人工作区中检查、搜索、编辑和运行命令（高度实验性）
  - 兼容自定义端点、OpenAI、Azure、Anthropic、AWS Bedrock、Google、Vertex AI、Responses API 等
  - 面向工具的模型上下文协议 (MCP) 支持
🔍 Web 搜索：
- 搜索互联网并检索相关信息以增强 AI 上下文
- 结合搜索提供商、内容抓取器和结果重排器以获得最优结果
- 可自定义的 Jina 重排序：为重排序服务配置自定义 Jina API URL
- 了解更多 →
🪄 带 Code Artifacts 的生成式 UI：
- Code Artifacts 可直接在聊天中创建 React、HTML 和 Mermaid 内容
- 全屏打开预览，并将 Mermaid 图表导出为 SVG 或 PNG
🎨 图像生成与编辑
- 使用 GPT-Image-1 进行文生图和图生图
- 使用 DALL-E (3/2)、Stable Diffusion、Flux 或任何 MCP server 进行文生图
- 通过提示词生成惊艳的视觉效果，或用单条指令优化现有图像
💾 预设与上下文管理：
- 创建、保存并共享自定义预设
- 在聊天过程中切换 AI 端点和预设
- 通过对话分支编辑、重新提交和继续消息
- 创建提示词并与特定用户和群组共享
- 派生消息与对话以实现高级上下文控制
- 按需压缩长对话，同时保留近期上下文
💬 多模态与文件交互：
- 使用 Claude 3、GPT-4.5、GPT-4o、o1、Llama-Vision 和 Gemini 上传并分析图像 📸
- 使用自定义端点、OpenAI、Azure、Anthropic、AWS Bedrock 和 Google 与文件聊天 🗃️
- 将消息复制为格式化富文本，用于文档、电子邮件和协作应用
🌎 多语言 UI：
- English, 中文 (简体), 中文 (繁體), العربية, Deutsch, Español, Français, Italiano
- Polski, Português (PT), Português (BR), Русский, 日本語, Svenska, 한국어, Tiếng Việt
- Türkçe, Nederlands, עברית, Català, Čeština, Dansk, Eesti, فارسی
- Suomi, Magyar, Հայերեն, Bahasa Indonesia, ქართული, Latviešu, ไทย, ئۇيغۇرچە
🧠 推理 UI：
- 为 DeepSeek-R1 等 Chain-of-Thought/推理 AI 模型提供动态推理 UI
🎨 可自定义界面：
- 可自定义的下拉菜单与界面，同时适配高级用户和新手
- 浅色、深色、跟随系统和高对比度外观模式
📈 可观测性：
- 使用 OpenTelemetry 导出 trace 和日志，并连接 Langfuse 以获得 Agent 和模型洞察
🌊 可恢复流：
- 永不丢失响应：如果连接中断，AI 响应会自动重连并继续
- 多标签页与多设备同步：在多个标签页中打开同一聊天，或在另一台设备上继续
- 生产就绪：从单服务器部署到使用 Redis 的水平扩展部署均可工作
🗣️ 语音与音频：
- 通过 Speech-to-Text 和 Text-to-Speech 免手动聊天
- 自动发送和播放音频
- 支持 OpenAI、Azure OpenAI 和 Elevenlabs
📥 导入与导出对话：
- 从 LibreChat、ChatGPT、Chatbot UI 导入对话
- 将对话导出为截图、markdown、文本、json
🔍 搜索与发现：
- 搜索所有消息/对话
👥 多用户与安全访问：
- 多用户、安全认证，支持 OAuth2、LDAP 和电子邮件登录
- 内置审核和 Token 用量工具
🎛️ 管理面板：
- 基于浏览器的 UI，用于管理用户、群组、角色和配置覆盖
- 实时编辑设置以及按角色/群组的权限，无需重新部署
- 与 Docker Compose 栈捆绑，一条命令即可完成设置
⚙️ 配置与部署：
- 配置代理、反向代理、Docker 以及多种部署选项
- 使用 S3 与 CloudFront 实现稳定的媒体链接、边缘分发、签名 cookie 和安全下载
- 完全本地使用或部署在云端
📖 开源与社区：
- 完全开源且公开构建
- 社区驱动的开发、支持与反馈