主流 AI 工具自定义 API 兼容性总表¶
最后核验：2026-08-10 · 覆盖 74 款工具、平台与开发框架（含 1 项停运历史资料）
[!NOTE] 本文适用于任何符合对应协议的 API。还没有测试 Key 时，可查看 教程配套 API。
这张表回答三个问题：该选哪个工具、它需要什么协议、接入后哪些能力还要单独验证。“支持自定义 API”只代表存在配置入口，不代表聊天、图片、工具调用、知识库和 Agent 全部兼容。
1. 一眼选工具¶
| 你的需求 | 优先查看 | 备选 |
|---|---|---|
| 新手桌面聊天 | Cherry Studio、Chatbox | ChatWise |
| 角色与提示词聊天 | SillyTavern | 先从 release 分支与纯文本开始 |
| 本地模型与远程 API 混用 | Jan、Msty | Cherry Studio |
| 本机运行开源模型 | Ollama | LM Studio、llama.cpp、LocalAI |
| GPU 服务器高吞吐推理 | vLLM、SGLang | Xinference |
| 统一多个模型端点 | LiteLLM Proxy | 先确定协议、鉴权、预算与回退语义 |
| 图形化管理本地模型 | LM Studio | Ollama |
| macOS 原生客户端 | BoltAI | Chatbox |
| 浏览器或 PWA 聊天 | LobeChat、NextChat | Open WebUI |
| 终端 AI 编程 | Claude Code、Codex CLI | Qwen Code、Gemini CLI |
| 内置模型终端 Agent | Qoder CLI | Custom Models 仅限官方支持列表 |
| Google Agent 开发环境 | Antigravity | 内置模型与 MCP，不按通用 Base URL 配置 |
| 规范驱动开发 | Kiro | 先审 requirements、design 和 tasks 再执行 |
| VS Code 编程代理 | Cline、Continue | Roo Code 已停运，不建议新装 |
| VS Code Chat 使用自有模型 | VS Code / GitHub Copilot BYOK | BYOK 不会接管所有 Copilot 功能 |
| Git 驱动终端编程 | Aider | OpenCode |
| 开源终端 Agent | OpenCode、Crush | goose |
| 软件工程 Agent / 多 Agent 工作台 | OpenHands | AionUi |
| AI 编辑器 | Cursor、TRAE | Windsurf 的 BYOK 不是通用 Base URL |
| 多套编程 API 配置切换 | CC Switch | 它不是聊天客户端 |
| 多用户自部署聊天 | Open WebUI、LibreChat | LobeChat |
| 自托管个人 Agent | OpenClaw | 先做 Gateway、渠道和工具权限隔离 |
| 多平台聊天机器人 | AstrBot、LangBot | 优先使用聊天平台官方 Bot/API |
| 本地文档与知识库 | AnythingLLM | Dify、FastGPT |
| 工作流与 AI 应用 | Dify | FastGPT |
| 企业知识库问答 | FastGPT | Dify |
| 文档解析型 RAG | RAGFlow | MaxKB |
| 自动化与 Webhook | n8n | Flowise、Langflow |
| 网页与文档双语翻译 | 沉浸式翻译 | Pot 适合全系统划词与 OCR |
| Obsidian 知识问答 | Obsidian Copilot | — |
| Python / Node SDK 开发 | OpenAI SDK | — |
| Agent / RAG 开发框架 | OpenAI Agents SDK、Google ADK、LangGraph | Claude Agent SDK、smolagents、PydanticAI、CrewAI |
| LLM / Agent 可观测性 | Langfuse | 先做客户端脱敏和 Trace 结构设计 |
| Prompt、模型与 Agent 回归 | Promptfoo | 确定性断言优先，Red Team 只测获准系统 |
| RAG 检索与忠实度评测 | Ragas | 使用真实检索上下文与留出测试集 |
| Embedding 与 Rerank 设计 | 选型、接入和迁移指南 | 先建评测集，再决定模型和阈值 |
| Next.js AI 应用 | Vercel AI SDK | — |
| Java / Spring Boot | Spring AI | — |
| 图形化 API 排错 | Apifox / Postman | 先测最小请求，再排查客户端 |
2. 聊天客户端¶
| 工具 | 运行方式 | 主要自定义入口 | 典型协议 | 关键提醒 |
|---|---|---|---|---|
| Cherry Studio | Windows / macOS / Linux | 自定义供应商 | OpenAI Chat Completions | 模型 ID 需与控制台一致；多模态、工具调用分别测试 |
| Chatbox | 桌面 / Web / 移动端 | OpenAI API Compatible | OpenAI Chat Completions | 注意 Host 是否需要 /v1，以界面最终请求规则为准 |
| LobeChat | Web / PWA / Docker | OpenAI-compatible provider | OpenAI 兼容接口 | 客户端和服务端部署模式的环境变量、密钥保存位置不同 |
| NextChat | Web / PWA / Docker | 环境变量或部署配置 | OpenAI Chat Completions | 公网部署必须设置访问密码并保护服务端环境变量 |
| Jan | Windows / macOS / Linux | Custom Endpoint | OpenAI Chat Completions | Base URL 填到 /v1；本地模型与远程接口分开验证 |
| Msty Studio | 桌面端 | Bring Your Own Provider | OpenAI 兼容接口 | Provider、模型能力和知识功能分别确认 |
| TypingMind | Web / PWA | Custom endpoint | OpenAI Chat Completions | 官方入口使用完整 /v1/chat/completions Endpoint |
| BoltAI | macOS | Custom OpenAI-compatible Server | OpenAI Chat Completions | 使用完整聊天端点；确认 Key 在本机的保存方式 |
| ChatWise | 桌面端 | Custom Provider | OpenAI / Anthropic 兼容接口 | 模型能力开关要按真实服务逐项验证 |
| SillyTavern | 本地 Web 前端 | Custom (OpenAI-compatible) | OpenAI Chat Completions | Endpoint 通常填到 /v1；release 与 staging 不要混用 |
适合谁¶
- Cherry Studio：希望在一个桌面应用里管理多个服务和模型；
- Chatbox：只想快速聊天、界面简单、本地优先；
- LobeChat：重视 Web 体验、PWA、会话与扩展能力；
- NextChat：想用较少配置部署一个轻量 Web 聊天界面。
- Jan：希望把本地模型与远程兼容 API 放在同一桌面客户端；
- Msty Studio：需要多 Provider、知识管理和桌面工作台；
- TypingMind：偏好成熟 Web 聊天界面并能配置完整 Endpoint；
- BoltAI：需要 macOS 原生体验和自定义 OpenAI-compatible Server。
- ChatWise：希望在桌面端管理 OpenAI / Anthropic 兼容 Provider；
- SillyTavern：需要角色卡、世界书和高度可调提示词的本地前端。
3. AI 编程工具¶
| 工具 | 形态 | 主要协议/入口 | Agent 能力 | 最重要的限制 |
|---|---|---|---|---|
| Claude Code | 终端代理 | Anthropic Messages 兼容配置 | 原生 | 服务必须兼容 Claude Code 所需的 Messages 与工具调用语义 |
| Claude Code 进阶 | 配置体系 | CLAUDE.md / Rules / Skills / Hooks / Subagents | 扩展原生 Agent | 行为说明不是强制安全边界；高风险操作用权限或 Hook |
| Codex CLI | 终端代理 | OpenAI Responses | 原生 | 只支持 Chat Completions 的服务通常无法完整替代 Responses |
| Qwen Code | 终端代理 | OpenAI / Anthropic / Gemini Provider | 原生 | Provider 分组决定 SDK 与协议，Base URL 不能跨协议混用 |
| Qoder CLI | 终端代理 | 内置模型 / 受控 Custom Models | 原生 | Custom Models 不是任意 Base URL，Teams 当前不支持 |
| Gemini CLI | 终端代理 | Google GenAI / Gemini 原生 API | 原生 | GOOGLE_GEMINI_BASE_URL 不是 OpenAI-compatible 地址 |
| Google Antigravity | Agent 开发环境 | 产品内置模型选择 / MCP | 原生 | 没有可证实的任意 OpenAI-compatible 主模型入口 |
| VS Code / GitHub Copilot BYOK | VS Code Chat | Built-in Provider / Custom Endpoint | Chat Agent | BYOK 可无 Copilot 计划使用；语义搜索、内联补全等仍有独立边界 |
| Kiro | 独立编辑器 | 内置模型 + Specs / Steering / Hooks / MCP | 原生 | 官方未提供稳定通用的任意 OpenAI-compatible Base URL 流程 |
| TRAE | 独立编辑器 | Custom Model / Custom baseURL | 原生 | 先确认版本；区分 Base URL 与完整 Request URL |
| Windsurf | 独立编辑器 | 官方 BYOK | 原生 | 仅个人用户和标有 BYOK 的受支持模型；非通用 Base URL |
| Cursor | 独立编辑器 | BYOK / Override OpenAI Base URL | 部分取决于 Cursor | 自定义 Key 不代表全部 Agent、Tab 和专有功能都会走该地址 |
| Cline | VS Code 扩展 | OpenAI Compatible 等供应商入口 | 原生 | 首次先设保守审批规则，验证工具调用而不只是聊天 |
| Roo Code | 已停运的 VS Code 扩展 | 历史 OpenAI Compatible 配置 | 历史版本原生支持 | 仅供存量用户迁移；官方仓库已归档，不建议新装 |
| Continue | VS Code / JetBrains 扩展 | config.yaml 模型配置 |
Chat / Agent / 补全按配置 | Chat、Autocomplete、Embedding、Reranker 是不同角色，需分别配置 |
| CC Switch | 桌面配置管理器 | 管理 Claude / Codex 等配置 | 不提供模型能力 | 它只切换配置；最终是否可用由目标 CLI 与 API 协议决定 |
| Aider | 终端 / Git | openai/<model> 与环境变量 |
代码编辑 | 以 Chat Completions 为主；先在测试仓库验证 Git 变更 |
| OpenCode | 终端代理 | 自定义 Provider 配置 | 原生 | 区分 AI SDK Chat Completions 与 Responses Provider 包 |
| Crush | 终端代理 | openai-compat / anthropic Provider |
原生 | 项目配置属于可信代码；工具调用和配置命令必须审查 |
| OpenHands | 本地 GUI / 软件工程 Agent | Custom Model + Base URL | 原生 | Docker 网络、工作区挂载和强模型工具能力缺一不可 |
| AionUi | 桌面多 Agent 工作台 | Models → Custom | 内置与外部 Agent 分开 | Custom 模型不会自动覆盖每个外部 CLI 的独立配置 |
| Kilo Code | VS Code / CLI | Custom Provider | 原生 | 审批、可信配置和模型工具能力必须一起验证 |
| Zed | 编辑器 | Agent 模型 Provider | 原生 | chat_completions capability 会影响使用的协议路径 |
| goose | 终端 / 桌面代理 | 声明式 Provider | 原生 | Base URL 可能要求完整 /v1/chat/completions，按官方字段填写 |
编程工具必须多测两步¶
普通问答成功后，再执行：
- 让工具读取一个只含测试文件的目录并解释内容；
- 让工具创建一个临时文件，在审批界面确认后再执行。
如果第一步能回答、第二步没有合法工具调用，说明“聊天可用”但 Agent 链路仍未完整兼容。
4. 本地模型运行时¶
| 工具 | 管理方式 | 兼容入口 | 关键提醒 |
|---|---|---|---|
| Ollama | CLI / 桌面服务 | 原生 API、OpenAI / Anthropic 兼容接口 | 默认无传统 API Key 鉴权；上下文和速度受硬件影响 |
| LM Studio | 图形界面 / lms CLI |
原生 REST、OpenAI / Anthropic 兼容接口 | 默认无认证；局域网开放时启用 API Token |
| vLLM | CLI / GPU 推理服务 | OpenAI-compatible Chat、Responses、Embedding | API Key 主要保护 /v1，生产仍需网络隔离与反向代理 |
| Xinference | WebUI / CLI / API | OpenAI-compatible、Embedding、Rerank | 不同模型需不同后端；公网部署必须鉴权 |
| llama.cpp / llama-server | CLI / 单进程服务 | Chat、Responses、Messages、Embedding、Rerank | GGUF 模板和任务类型必须匹配；实验性内置工具默认不要开放 |
| LocalAI | WebUI / 多后端服务 | OpenAI-compatible、多模态与 Anthropic Messages | 简单 API Key 具有管理员能力；不同任务需安装对应模型和 backend |
| SGLang | CLI / Docker / GPU 推理服务 | OpenAI / Anthropic / Ollama 兼容入口 | CUDA 与 wheel 组合变化快；Reasoning 和工具需匹配 parser |
本地模型不会自动获得云端模型同等的工具调用、视觉、推理或长上下文能力。先按“文本 → 流式 → 工具 → 长上下文”的顺序逐层验证，Docker 客户端访问宿主机时不要填写容器自己的 localhost。
5. 自部署与知识库平台¶
| 工具 | 定位 | 自定义 API 入口 | 是否常需 Embedding | 部署重点 |
|---|---|---|---|---|
| Open WebUI | 多用户聊天前端 | OpenAI API Connections | 可选 | 连接配置、权限、持久化卷、反向代理 SSE |
| LibreChat | 多供应商聊天平台 | librechat.yaml Custom Endpoints |
可选 | YAML 缩进、环境变量引用、公开注册与密钥安全 |
| AnythingLLM | 本地文档/工作区问答 | Generic OpenAI 等 LLM Provider | 是 | LLM、Embedding、向量库为独立组件，换模型可能需重建索引 |
| Dify | 工作流与应用编排 | OpenAI-compatible 模型插件 | 知识库需要 | 对话模型、Embedding、Rerank 分开配置，插件版本要记录 |
| FastGPT | 知识库与应用发布 | 模型渠道 / AI Proxy | 是 | 模型渠道、向量维度、索引、应用发布链路分别验证 |
| RAGFlow | 文档解析与 RAG | OpenAI-compatible 模型配置 | 是 | Chat、Embedding、Rerank、检索测试和数据集解析分别验证 |
| MaxKB | 企业知识库与智能体 | OpenAI 模型供应商配置 | 是 | 模型、知识库、应用发布、触发器和权限链路分别检查 |
| OpenClaw | 个人 Agent / Gateway | models.providers |
可选 | 模型可用不代表工具安全；渠道和 Gateway 必须最小权限 |
| AstrBot | 多平台机器人 | OpenAI / Google / Anthropic Provider | 可选 | ChatUI 先验模型，再验平台适配器和群聊权限 |
| LangBot | 多平台 Agent 平台 | LLM / Embedding / Rerank 模型配置 | 是 | Request URL 可能是完整端点；Pipeline 与平台链路分层验证 |
| LiteLLM Proxy | 统一模型网关 | OpenAI-compatible Proxy | 可选 | 主 Key 与业务虚拟 Key 分离；重试和回退不能重复有副作用的 Agent 动作 |
自部署的最小验收¶
- 容器重启后配置和会话仍存在；
- 新用户看不到管理员 Key；
- 普通对话和流式输出正常；
- 知识库能导入、索引、检索并引用来源；
- 反向代理不会缓冲 SSE；
- 已备份配置、数据库和持久化卷，并验证恢复流程。
6. 自动化与可视化工作流¶
| 工具 | 定位 | 兼容入口 | 关键提醒 |
|---|---|---|---|
| n8n | 业务自动化与 Webhook | OpenAI 凭据 / 节点 Base URL | 凭据、聊天、Embedding、Webhook 鉴权和执行数据保留分别设置 |
| Flowise | Chatflow / Agentflow | ChatOpenAI / Embedding 节点 | 凭据加密、数据库持久化和已发布 Flow API Key 必须配置 |
| Langflow | 可视化 AI Flow | OpenAI 兼容组件 | Chat 与 Embedding 组件独立，Webhook 和 API 需额外认证 |
工作流平台会把一次用户操作扩展成多次模型调用。上线前限制循环次数、并发、Webhook 来源和单次执行成本。
7. 效率工具¶
| 工具 | 场景 | 兼容入口 | 验证重点 |
|---|---|---|---|
| 沉浸式翻译 | 网页、PDF、字幕双语翻译 | OpenAI 兼容翻译服务 | 长文本分段、术语、并发、速率限制与隐私 |
| Obsidian Copilot | 笔记问答与 Vault QA | 第三方 OpenAI 格式模型 | 笔记内容会发送给接口；CORS 旁路模式不支持流式输出 |
| Pot | 全系统划词、输入翻译与 OCR | 内置 OpenAI 服务 / 插件 | 多服务并行会把原文发送到多个接口 |
翻译工具会把网页选中文本或文档片段发送给配置的 API。处理合同、病历、客户资料或公司内部页面前，先确认数据处理规则。
8. SDK 与开发框架¶
| 框架 | 语言 / 场景 | 自定义入口 | 关键提醒 |
|---|---|---|---|
| OpenAI 官方 SDK | Python / Node.js | base_url / baseURL |
Chat、Responses、Embedding 是不同端点，分别验证 |
| LangChain | Python / TypeScript | ChatOpenAI Custom URL |
非标准响应字段可能不会保留；LLM 与 Embedding 分开配置 |
| LlamaIndex | Python RAG | OpenAILike / api_base |
必须填写上下文和工具能力元数据，换 Embedding 后重建索引 |
| Vercel AI SDK | TypeScript / Next.js | createOpenAICompatible |
Provider 必须仅在服务端创建，流式 Usage 兼容性需验证 |
| Spring AI | Java / Spring Boot | base-url + completions-path |
小心 /v1 重复拼接，Tool 和 VectorStore 需独立契约测试 |
| OpenAI Agents SDK | Python Agent | OpenAIProvider / 自定义 OpenAI Client |
默认偏向 Responses；Chat Completions 需要显式模型类 |
| PydanticAI | Python Agent | OpenAIProvider(base_url=...) |
显式区分 Responses 与 Chat，结构化输出仍需 Pydantic 校验 |
| CrewAI | Python 多 Agent | LLM(base_url=...) |
Provider 前缀决定协议；Agent 数量会放大调用与错误 |
| LangGraph | Python Agent / 状态图 | ChatOpenAI(base_url=...) |
新项目使用 create_agent；生产使用持久化 checkpointer |
| Google ADK | Python / 多语言 Agent | Gemini / LiteLLM 模型连接器 | Dev UI 不用于生产；Session、工具轨迹与依赖安全需单独验收 |
| Claude Agent SDK | Python / TypeScript Agent | 官方 API Key / 支持的云平台认证 | allow 列表不等于绝对禁止；高风险工具还需 deny、hook 与沙箱 |
| Hugging Face smolagents | Python CodeAgent / Tool Agent | LiteLLM / OpenAI-compatible 等连接器 | 本地代码执行器不等于完整沙箱；生产使用容器或远程隔离 |
| Langfuse | LLM / Agent 可观测性 | SDK / OpenTelemetry | Trace 可能含完整输入输出；敏感数据应在客户端发送前脱敏 |
9. API 测试与调试¶
| 工具 | 主要用途 | 关键提醒 |
|---|---|---|
| Apifox | REST、SSE、环境变量和脚本断言 | Key 使用私密环境值，分享项目和截图前彻底脱敏 |
| Postman | Collection、Variables、Vault 和请求测试 | Secret 放入 Vault；导出 Collection 不等于自动移除所有敏感内容 |
| Promptfoo | Prompt / Provider / Agent 自动化评测与 Red Team | 固定 CLI、模型、Prompt 和数据集版本；攻击测试只针对获准目标 |
| Ragas | RAG、Agent 与回答质量评测 | 指标依赖字段不同；评测模型本身也会带来波动、成本和偏差 |
先用调试工具验证 /models、/chat/completions 或 /responses，再配置复杂客户端。普通非流式请求成功后，还需单独测试 SSE 与 Function Calling。
10. 协议覆盖速查¶
下表表示教程重点，不是对所有版本的永久能力承诺：
| 协议或能力 | 常见工具 |
|---|---|
| OpenAI Chat Completions | 大多数聊天客户端；VS Code Custom Endpoint、TRAE、Aider、Cline、OpenCode、Crush、OpenHands 等；Ollama、LM Studio、llama.cpp、LocalAI、vLLM、SGLang；自动化平台与开发框架 |
| OpenAI Responses | Codex CLI；VS Code Custom Endpoint；Ollama、LM Studio、llama.cpp、vLLM；Continue、OpenCode 和部分 SDK / 框架 |
| Anthropic Messages | Claude Code；VS Code Custom Endpoint；Ollama、LM Studio、llama.cpp、LocalAI、SGLang 和部分多供应商客户端 |
| Function Calling / 工具调用 | Cline、Continue、Claude Code、Codex CLI、OpenCode、Crush、OpenHands、AionUi、Kilo Code、Zed、goose 及开发框架；Roo Code 仅作历史资料 |
| Embeddings | AnythingLLM、Dify、FastGPT、RAGFlow、MaxKB、自动化平台及 RAG 开发框架 |
| SSE 流式输出 | 大多数聊天和编程工具；反向代理配置会影响稳定性 |
11. Base URL 填写速查¶
| 输入框文字 | 通常填写 | 仍需确认 |
|---|---|---|
| Base URL / API Host | https://your-api.example.com/v1 |
工具是否自动补 /v1 |
| Chat Completions URL | https://your-api.example.com/v1/chat/completions |
是否明确要求完整端点 |
| Anthropic Base URL | 服务给出的 Messages 根地址 | 工具是否自动拼 /v1/messages |
| Responses Base URL | 服务给出的 API 根地址 | 是否实现 /v1/responses |
不要只看输入框名称猜地址。每篇教程都以对应工具的官方配置行为为准。
12. 能力验收清单¶
按需要勾选，不用的能力无需测试：
- 列出或手动添加模型；
- 单轮文本对话；
- 多轮上下文；
- 流式输出；
- 长文本；
- 图片输入；
- 工具调用；
- 文件读写审批；
- Embedding；
- 知识库检索与引用；
- 并发与 429 退避；
- 重启后的配置持久化；
- Key 撤销和轮换。
13. 本仓库的兼容性标注规则¶
- 官方支持：产品官方文档明确给出该配置入口；
- 兼容入口：官方提供通用 Base URL 或 OpenAI Compatible 设置，但不承诺所有第三方实现；
- 部分可用：聊天能用，Agent、工具调用或专有能力可能不走自定义 API；
- 需要自部署：环境变量或 YAML 配置只适用于自己部署的实例；
- 待复核：界面或文档近期变化，教程会明确标注核验日期。
14. 推荐阅读顺序¶
- 第一次接 API：先读 API 接入基础；
- 在本页选择工具并进入对应完整教程；
- 配置失败：查 通用排错手册；
- 准备长期使用：完成兼容 API 上线验收；
- 使用 Agent 或长上下文：先做成本测算和完整能力测试。
产品更新速度很快。本文只依据各项目官方文档和官方仓库整理；若界面与教程不一致，请提交 Issue，并附工具版本、操作系统和脱敏截图。