统一接入
标准化 OpenAI、Anthropic Claude、DeepSeek、Gemini 等主流模型接口，兼容 /v1/chat/completions、/v1/responses 与 Gemini generateContent 三种入站协议。
- OpenAI 兼容
- Anthropic
- Gemini
兼容 OpenAI · Anthropic · Gemini一个端点，
一个端点，
接入所有大模型
统一 /v1/chat/completions 端点，内置负载均衡、熔断限流与全链路追踪，无需改动现有调用代码。
开源自托管 · 无需修改现有 OpenAI SDK 代码
POSTapi.your-domain.com/v1/chat/completions200 OK
$ curl https://api.your-domain.com/v1/chat/completions \
-H "Authorization: Bearer sk-••••" \
-H "Content-Type: application/json" \
-d '{
"model": "gpt-4o-mini",
"messages": [
{ "role": "user", "content": "你好，介绍一下 Xin API" }
],
"stream": true
}'142 ms27 tokens$0.0002示例数据
- 3 种
- 入站协议
- 4 家
- 上游供应商
- 4 维
- 智能路由
- 1 条
- 追踪链路
OpenAI · Anthropic · Gemini
OpenAI · Claude · Gemini · DeepSeek
健康度 · 延迟 · 成本 · 限流
单请求 xin_req_* Request ID
核心能力
从接入到可观测，一个网关全部覆盖
统一协议、智能选路、高可用防护与全链路追踪，无需在多个系统之间来回拼装。
智能路由
基于权重的负载均衡与可插拔路由架构，按渠道健康度、成功率、延迟 / TTFT / TPS、成本与 RPM / TPM 等多维指标加权选路。
- 权重分发
- 多维打分
- 自动切换
高可用防护
基于 Redis 的分布式熔断自动隔离故障渠道，RPM / TPM 多维限流保护上游，配合单渠道与批量多模型健康检测快速止损。
- 熔断隔离
- RPM / TPM
- 健康检测
全链路可观测
每次请求携带 xin_req_* Request ID 并关联上游供应商 Request ID，Token、延迟、费用与审计日志全程可查、可对账。
- Request ID
- Token 计量
- 审计日志
更多能力
控制台里的日常运维，也一并收好。
统一渠道管理
集中管理多家上游供应商渠道，配置、权重与状态一目了然。
API Key 管理
灵活的密钥分发与吊销，按需控制访问范围。
请求审计日志
按 Request ID、模型、渠道、状态与时间多维筛选，默认仅记录元数据。
运营看板
请求量、成功率、Token、费用与延迟趋势，以及模型与渠道调用排行。
工作原理
一次请求，四步走完网关链路
从鉴权到计量，每一步都留下可观测的轨迹。
- 01
接入鉴权
校验密钥并建立请求上下文
- 客户端请求
- 认证鉴权
- 请求上下文 · Request ID
- 02
路由选路
按多维指标加权决策
- 模型映射
- 健康度与延迟评分
- 成本与限流评分
- 03
渠道与供应商
转发到最优上游
- 渠道权重选择
- OpenAI / Claude / Gemini / DeepSeek
- 熔断与限流保护
- 04
计量与观测
用量落库并进入看板
- 用量提取
- 计费与日志
- 控制台 Dashboard
xin_req_*上游 request id每一次请求都携带 xin_req_* Request ID，并关联上游供应商返回的 Request ID，从客户端到供应商双向可追溯，故障定位一查到底。
可观测
每一次调用，都留下完整的证据链
从网关到上游供应商，请求量、成功率、Token、费用与延迟全程可查，问题定位与成本对账不再靠猜。
- 请求量
- 按模型、渠道与状态维度统计调用次数。
- 成功率
- 区分网关与上游失败，快速定位异常渠道。
- Token 用量
- 输入 / 输出分别计量，支持成本核算。
- 费用
- 按价格快照原子扣费，账单清晰可对账。
- 延迟
- 记录 TTFT、总延迟与 TPS，指导选路与选型。
请求量
1,284,930
成功率
99.96%
P95 延迟
1.24s
费用
¥ 3,842.60
示例数据 · 仅用于展示看板形态
常见问题
关于 Xin API，你可能想知道
还有别的疑问？欢迎在 GitHub Issues 留言，我们会尽快回复。
Xin API 是什么？
Xin API 是一个高性能的大语言模型（LLM）API 网关，统一管理多家大模型渠道，提供标准化接入、负载均衡、熔断限流与统一渠道管理能力。
支持哪些模型与协议？
无缝兼容 OpenAI、Anthropic Claude、DeepSeek、Gemini 等主流大模型，客户端可通过 /v1/chat/completions、/v1/responses 或 Gemini 原生 generateContent 端点接入，无需为不同供应商维护多套代码。
如何保障渠道的高可用？
Xin API 通过基于权重的负载均衡在多个渠道间分发请求，并使用基于 Redis 的分布式熔断器自动隔离故障渠道，配合 RPM / TPM 多维限流与一键渠道健康检测，降低故障影响。
是否支持用量统计与计费？
支持。Xin API 提供请求审计日志、输入 / 输出 Token 分别计量与价格快照，按用量原子扣费，账单清晰可对账；多维感知智能路由基于这些运行数据持续优化选路决策。