OpenAI Compatible API 兼容接口指南

OpenAI Compatible API 是一种通用的 API 接口规范，许多 AI 模型和服务都兼容这一格式。通过统一接口调用不同的 AI 模型。

什么是 OpenAI Compatible API？

OpenAI Compatible API 指遵循 OpenAI API 请求/响应格式的接口。只要 API 端点兼容以下格式，就可以用 OpenAI SDK 直接调用：

POST /v1/chat/completions
{
  "model": "model-name",
  "messages": [
    {"role": "user", "content": "Hello"}
  ],
  "stream": true
}

哪些服务支持 OpenAI Compatible？

• Ollama — 本地模型，兼容 OpenAI 格式
• vLLM — 高性能推理引擎
• LM Studio — 本地 GUI 模型运行器
• AI API 中转站 — 统一多家 API 为 OpenAI 格式
• Azure OpenAI — 微软云 OpenAI 服务
• Google Gemini — 通过兼容层支持

使用示例

Python — 调用任何兼容服务

from openai import OpenAI

# 只需修改 base_url 即可切换不同服务
client = OpenAI(
    api_key="your-key",
    base_url="https://claude4u.com/v1"  # 中转站
    # base_url="http://localhost:11434/v1"  # Ollama
    # base_url="http://localhost:1234/v1"  # LM Studio
)

response = client.chat.completions.create(
    model="claude-sonnet-4-20250514",  # 或其他模型
    messages=[{"role": "user", "content": "Hello!"}]
)

在 AI 工具中配置

• Cherry Studio：添加 OpenAI Compatible Provider，填入 Base URL 和 Key
• Cline：选择 OpenAI Compatible 模式
• Roo Code：选择 OpenAI Compatible Provider

OpenAI Compatible vs 原生 API

• 兼容格式覆盖了大部分常用功能（聊天、流式、Function Calling）
• 部分高级功能（如 Assistants API、Batch API）可能不完全兼容
• 不同服务对 max_tokens、temperature 等参数的支持可能有差异