通用原则

平台与框架通常内置 OpenAI 兼容客户端，接入点只有两个：Base URL 填 <你的网关地址>/v1，API Key 填你的 OpenTokenRouter 密钥。

Dify

  1. 进入工作区 → 设置 → 模型供应商。
  2. 添加 OpenAI-API-compatible 供应商：API Key 填你的密钥，API Base URL 填 <你的网关地址>/v1。
  3. 添加可用模型 ID 并设为默认，应用编排时即可选用。

n8n

  1. 在工作流中添加 OpenAI 节点。
  2. 在凭据里选择自定义 Base URL：填 <你的网关地址>/v1，API Key 填你的密钥。
  3. 模型参数填可用模型 ID。

Coze（扣子）

在工作空间添加 自定义模型 / 插件，选择 OpenAI 兼容端点：API Base 填 <你的网关地址>/v1，API Key 填密钥，模型 ID 填可用模型。

LangChain（Python）

from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    model="模型ID",
    base_url="<你的网关地址>/v1",
    api_key="sk-你的密钥",
)

LlamaIndex

from llama_index.llms.openai import OpenAI

llm = OpenAI(
    model="模型ID",
    api_base="<你的网关地址>/v1",
    api_key="sk-你的密钥",
)

LiteLLM

config.yaml：

model_list:
  - model_name: gpt-4o
    litellm_params:
      model: "模型ID"
      api_base: "<你的网关地址>/v1"
      api_key: "sk-你的密钥"

代理启动后，业务方统一请求 LiteLLM 即可，网关侧仍按你的密钥与计价计量。

OpenAI SDK（Python / Node.js）

from openai import OpenAI

client = OpenAI(base_url="<你的网关地址>/v1", api_key="sk-你的密钥")
import OpenAI from 'openai'

const client = new OpenAI({
  baseURL: "<你的网关地址>/v1",
  apiKey: "sk-你的密钥",
})

注意事项

  • 协议路由：默认走 Chat Completions；Anthropic 客户端用 Messages 路由（填网关根地址），Codex 类客户端用 Responses 路由。
  • 计量与限额：所有请求都按密钥记账，可在「用量日志」核对；框架自动重试会产生多条记录，以 request id 区分。
  • 并发与限流：框架默认并发较高，触发 429 时降低并发或做退避重试。