New API / One API 类网关选型
开源网关常见能力对比、部署注意、多模型路由与用户体系。
这类网关做什么
New API（全称 Next-Generation AI Gateway，基于 QuantumNous/new-api 仓库）是一款开源的 AI 模型聚合与分发网关，专为合法授权场景设计。它将多个上游 AI 服务商的接口（如 OpenAI、Claude、Google Gemini、DeepSeek、Midjourney、Suno 等 30+ 提供商）统一封装为 OpenAI 兼容格式，同时支持跨协议转换（如 OpenAI ⇄ Claude Messages、OpenAI ⇄ Gemini）。用户只需一个统一入口，即可调用所有模型，实现密钥管理、额度控制、负载均衡和成本追踪。
核心能力包括：
- 智能路由：支持加权随机、故障自动切换、重试机制，用户级限流。
- 成本与账务：支持内部充值、组织分摊、企业客户账单，含缓存命中计费（OpenAI、DeepSeek、Claude 等）。
- 权限与安全：令牌分组、模型访问控制、审计日志、OIDC/Discord 等多源认证。
- 多格式支持：原生 OpenAI Responses、Realtime API、Rerank（Cohere/Jina）、图像生成（Midjourney）、音乐（Suno）等。
- 数据洞察：实时看板、统计分析、用量仪表盘。
与早期 One API 相比，New API 在界面现代化、UI 多语言支持（简体/繁体/英文/日语/法语）、数据库兼容性（无缝继承 One API 数据）、高级路由策略和企业级账务上做了显著优化。部署方式轻量：单 Docker 容器或 Docker Compose 即可启动，适用于个人、团队或企业私有化中转站建设。
选型维度
选择 New API 时需结合实际场景，从以下维度评估：
| 维度 | 描述与关键考量 | 推荐场景 |
|---|---|---|
| 部署复杂度 | Docker Compose 单容器启动，依赖 Postgres/MySQL + Redis。初期门槛低，后续扩展需关注数据库与 Redis。 | 个人/小团队快速上线 |
| 协议与模型支持 | 原生 OpenAI 兼容 + 多格式转换，内置 Midjourney/Suno 等非 LLM 模型。 | 混合多模态需求 |
| 路由与限流 | 加权随机、故障切换、重试、用户级限流、推理力度分级（o3-mini-high/medium/low 等）。 | 高并发、稳定性要求高 |
| 账务与成本 | 组织级分摊、EPay/Stripe 充值、缓存计费、价格阶梯。 | 需要精确成本控制 |
| 权限与安全 | 令牌分组、审计、OAuth/OIDC、Rate limiting。 | 团队协作或企业私有化 |
| 扩展性与性能 | Golang + Gin 架构，高并发低延迟（测试 QPS 视硬件而定），支持 Redis 缓存。 | 需要长期运维或高流量 |
| 社区与维护 | 活跃仓库（数万星级分叉），社区文档完善，定期更新（GPT-5.6、缓存计费等）。 | 追求稳定更新 |
| 合规性 | 仅限合法授权场景，需遵守上游条款与法规。 | 合规使用 |
New API 特别适合中小团队或个人开发者，相对于纯自研或商业平台，它提供了开源的灵活性与可视化管理后台。
部署与配置要点
部署 New API 推荐使用 Docker Compose，单机 4 核 8G 内存即可满足日常使用。以下是完整步骤：
- 克隆项目：
`` git clone https://github.com/QuantumNous/new-api.git cd new-api ``
- 配置 Docker Compose（推荐方式）：
编辑 docker-compose.yml，关键参数示例： ``yaml version: '3.8' services: new-api: image: calciumion/new-api:latest container_name: new-api restart: always ports: - "3000:3000" volumes: - ./data:/data environment: - SESSION_SECRET=your-strong-secret - SQL_DSN=postgres://user:pass@db:5432/newapi?sslmode=disable # 或使用 MySQL - REDIS_CONN_STRING=redis://redis:6379 - TZ=Asia/Shanghai ` （完整模板参考官方 docker-compose.yml 或 docker-compose.dev.yml`）
- 启动服务：
`` docker compose up -d ` 访问 http://localhost:3000`（首次需初始化管理员账户）。
- 配置要点：
- 环境变量（详见官方环境变量文档）：重点设置 TRUSTED_PROXIES（代理 IP 列表）、SESSION_COOKIE_SECURE（生产环境建议开启）、MAX_REQUEST_BODY_MB（防大文件攻击）。 - 数据库：推荐 Postgres/MySQL（生产稳定），SQLite 适合测试。 - 缓存：Redis 用于会话与限流，配置 CRYPTO_SECRET 与 SESSION_SECRET 一致。 - 网络与安全：启用 HTTPS（Nginx/Cloudflare 反代 + Let’s Encrypt），设置 TRUSTED_PROXIES 防止伪造。 - 资源监控：启用 Pyroscope 采样，观察内存/CPU。
- 常见配置陷阱：
- 生产环境必须使用数据库而非 SQLite（避免单点故障）。 - Redis 连接需带密码，保持 SESSION_SECRET 一致。 - 测试环境可临时关闭 SESSION_COOKIE_SECURE，生产必须设置。
部署完成后，首次访问即可创建管理员账号，进入后台完成模型接入。
多模型与分组
New API 支持将多个上游模型聚合为统一服务，核心是智能路由和权限分组。
- 模型接入：在后台「模型」页面添加通道（Channel），填写上游 API Key、Base URL、模型名称。支持批量导入 CSV，优先级设置（数字越小优先级越高）。
- 路由策略：
- 加权随机：根据权重分配请求（如 OpenAI 80%、DeepSeek 20%）。 - 故障切换：上游异常时自动重试或切换。 - 用户限流：每个用户可设置请求/分钟上限。
- 分组管理：创建用户组，绑定模型、限流规则、额度。支持子账号管理，适合团队分权限。
- 分组示例：开发组（只用 GPT-4o）、测试组（DeepSeek + Groq）。
示例路由配置（YAML 风格，高级自定义通道）： ``yaml channel_groups: dev_group: models: [gpt-4o, gpt-4o-mini] priority: 1 weight: {gpt-4o: 80, gpt-4o-mini: 20} test_group: models: [deepseek-chat] rate_limit: 10 # 每分钟 ``
通过「智能路由」页面可可视化调整，实时查看命中率与延迟。
常见坑
- 数据库压力：未设置 Redis 缓存，导致请求延迟升高，建议开启 Redis 并监控 QPS。
- 密钥泄露：仅使用虚拟密钥（New API 内部生成），避免直接暴露上游 Key。
- 缓存计费问题：OpenAI 等模型缓存命中需正确配置，旧版本可能账单不符。
- 限流误判：用户限流与全局限流同时生效时，建议使用 Redis 分布式限流。
- 网络连通性：海外模型部署时，需正确配置代理或海外服务器，避免 DNS 问题。
- 版本兼容：升级时备份数据库，兼容 One API 数据即可无缝迁移。
与自研对比
自研网关需从零实现路由、限流、账务模块，New API 提供了现成解决方案：
- 自研优势：完全定制逻辑，可集成私有上游或特定算法。
- 自研劣势：开发周期长（至少 1-2 人月），维护复杂（并发、缓存、审计）。
- New API 优势：开箱即用，社区活跃，账务/权限模块成熟。
推荐场景：自研适合极致定制或已有成熟团队；New API 适合 90% 的中小团队，直接使用即可落地。相关自建中转站可参考 build-transit-station。
风险与边界
New API 仅用于合法授权场景，必须严格遵守上游服务条款（OpenAI、Anthropic 等）和中国生成式人工智能相关法规（如《生成式人工智能服务管理暂行办法》）。非法律意见：用户需自行完成备案、内容安全审核、日志留存等合规义务。使用时请勿用于任何违规用途，存在风控风险。
延伸阅读
风险与边界：仅用于合法授权场景。非法律意见。
适用于 GrokCode 倍率榜。信息仅供参考，不构成购买、投资或法律意见。