AI Skill Hub 推荐使用:开源AI工具:无服务器 AI API 中转网关 是一款优质的AI工具。AI 综合评分 7.5 分,在同类工具中表现稳健。如果你正在寻找可靠的AI工具解决方案,这是一个值得深入了解的选择。
无服务器 AI API 中转网关,一键部署到 Vercel,兼容 OpenAI API,提高 AI 应用开发效率
开源AI工具:无服务器 AI API 中转网关 是一款基于 TypeScript 开发的开源工具,专注于 ai、api-gateway、edge-runtime 等核心功能。作为 GitHub 开源项目,它拥有活跃的社区支持和持续的版本迭代,代码完全透明可审计,支持本地部署以保护数据隐私。无论是个人使用还是集成到企业工作流,都能提供稳定可靠的解决方案。
无服务器 AI API 中转网关,一键部署到 Vercel,兼容 OpenAI API,提高 AI 应用开发效率
开源AI工具:无服务器 AI API 中转网关 是一款基于 TypeScript 开发的开源工具,专注于 ai、api-gateway、edge-runtime 等核心功能。作为 GitHub 开源项目,它拥有活跃的社区支持和持续的版本迭代,代码完全透明可审计,支持本地部署以保护数据隐私。无论是个人使用还是集成到企业工作流,都能提供稳定可靠的解决方案。
# 方式一:npm 全局安装 npm install -g ai-relay # 方式二:npx 直接运行(无需安装) npx ai-relay --help # 方式三:项目依赖安装 npm install ai-relay # 方式四:从源码运行 git clone https://github.com/MoyuFamily/ai-relay cd ai-relay npm install npm start
# 命令行使用
ai-relay --help
# 基本用法
ai-relay [options] <input>
# Node.js 代码中使用
const ai_relay = require('ai-relay');
const result = await ai_relay.run(options);
console.log(result);
# ai-relay 配置说明 # 查看配置选项 ai-relay --config-example > config.yml # 常见配置项 # output_dir: ./output # log_level: info # workers: 4 # 环境变量(覆盖配置文件) export AI_RELAY_CONFIG="/path/to/config.yml"
<img src="docs/assets/logo-banner.svg" alt="AI Relay" width="400">
无服务器 AI API 中转网关:一键部署到 Vercel,2 分钟拥有自己的多 Provider AI Relay
<p>不用买服务器,不用维护 Docker,只需填写 3 个环境变量,即可拥有自己的多 Provider AI Relay。</p>
<p> <a href="https://vercel.com/new/clone?repository-url=https://github.com/MoyuFamily/ai-relay&env=RELAY_API_KEY,RELAY_ADMIN_KEY,RELAY_SIGNING_SECRET&envDescription=API%20authentication%20keys%20(required%20for%20security)&envLink=https://github.com/MoyuFamily/ai-relay#environment-variables"> <img src="https://vercel.com/button" alt="Deploy with Vercel" height="42"> </a> </p>
<p><strong><a href="https://vercel.com/new/clone?repository-url=https://github.com/MoyuFamily/ai-relay&env=RELAY_API_KEY,RELAY_ADMIN_KEY,RELAY_SIGNING_SECRET&envDescription=API%20authentication%20keys%20(required%20for%20security)&envLink=https://github.com/MoyuFamily/ai-relay#environment-variables">👉 立即一键部署</a></strong> · <a href="#-一键部署2-分钟上线你的-ai-api-网关">查看部署步骤</a></p>
</div>
---
🚀 不用买服务器,不用写后端,不用维护 Docker。 AI Relay 基于 Vercel Edge Runtime 构建,点击 Deploy with Vercel,配置 3 个环境变量,即可获得一个支持 OpenAI / Claude / DeepSeek / 自定义 Provider 的无服务器 AI API 中转网关。
| 你关心的 | AI Relay 的答案 |
|---|---|
| **怎么部署?** | 点一下 Deploy with Vercel,填 3 个环境变量,约 2 分钟上线 |
| **要服务器吗?** | 不需要 VPS,不需要 Docker,不需要后端运维 |
| **能免费跑吗?** | 面向 Vercel Edge + KV 设计,个人 / 小团队可从免费层开始 |
| **接入复杂吗?** | OpenAI SDK 只改 base_url,继续使用 /v1/chat/completions |
| 特性 | 说明 |
|---|---|
| **无服务器架构** | 基于 Vercel Edge Runtime,无需购买 VPS / 维护 Docker / 管理后端服务 |
| **一键部署** | 点击 Deploy with Vercel,填写 3 个环境变量,约 2 分钟上线 |
| **免费层可用** | 个人和小团队可直接使用 Vercel 免费层跑起来 |
| **OpenAI 兼容** | 直接用 OpenAI SDK 对接,零改动 |
| **多 Provider 路由** | OpenAI · Claude · DeepSeek · MiMo · 自定义 |
| **多 Key 轮换** | Round-Robin + 429 自动退避 |
| **多级 Fallback** | Provider → Key 链式故障转移 |
| **熔断器** | Provider 故障时自动切换 |
| **Admin 后台** | 密钥管理、配额配置、用量统计、模型测试 |
| **流式响应** | SSE 透传,实时输出 |
| **Webhook 通知** | 企微 / 飞书 / 钉钉 / Slack,日报 + 超限告警 |
| **临时 API Key** | HMAC-SHA256 无状态签名,自动过期 |
| **虚拟模型映射** | 将虚拟模型名路由到真实 Provider |
| Provider | 模型示例 | 状态 |
|---|---|---|
| OpenAI | gpt-5.4, gpt-latest, gpt-5.4-mini | ✅ 内置 |
| Anthropic (Claude) | claude-sonnet-4-6, claude-opus-4-7 | ✅ 内置 |
| DeepSeek | deepseek-v4-flash, deepseek-v4-pro | ✅ 内置 |
| Xiaomi (MiMo) | mimo-7b | ✅ 内置 |
| 自定义 | 任意 OpenAI 兼容 API | ✅ 可配置 |
前置条件: Vercel 账号(免费)+ 至少一个 AI Provider 的 API Key
第 1 步 — 部署
点击上方 Deploy with Vercel 按钮,填入 3 个环境变量:
| 变量 | 说明 |
|---|---|
RELAY_API_KEY | 客户端请求鉴权密钥(自定义强密码) |
RELAY_ADMIN_KEY | 后台管理登录密钥(可同上) |
RELAY_SIGNING_SECRET | 临时 Key 签名密钥(可同上) |
点击 Deploy,等待部署完成。
第 2 步 — 启用 Upstash for Redis 并关联项目
1. 打开 Vercel Dashboard,进入刚部署的项目。 2. 在左侧菜单选择 Storage,点击 Create Database。 3. 选择 Upstash for Redis,创建数据库时选择 Free 套餐,其他选项保持默认即可,然后在弹出窗口中 Connect to your project(将 Redis 绑定到当前项目)。 4. 确认 Vercel 已为当前环境自动注入以下变量: - KV_REST_API_URL - KV_REST_API_TOKEN
说明:项目使用 Upstash Redis 的 REST API。Vercel 连接 Upstash 后通常会自动注入KV_REST_API_URL和KV_REST_API_TOKEN;若你手动部署或后续新建 Redis,请在 Settings → Environment Variables 中确认这些变量已存在。
第 3 步 — 验证
```bash curl https://你的项目.vercel.app/health
| 场景 | 说明 |
|---|---|
| **个人开发者** | 多 Key 整合为单一端点,自动轮换 + 故障转移 |
| **小团队** | 共享中转实例,配额管理,Admin 可见性 |
| **CI/CD** | HMAC 临时密钥,自动过期无需清理 |
| **多地域应用** | Edge 全球 < 50ms,熔断防级联故障 |
| **成本优化** | 虚拟模型映射,按任务复杂度路由 Provider |
| **企业内部** | API 网关 + Webhook 告警,用量监控 |
<details> <summary>点击展开截图</summary>
运行概览

限额状态、今日消耗概览、Token 消耗趋势一目了然。
密钥管理

多服务商密钥池,带状态指示和模型前缀映射。
辅助工具

临时密钥生成和模型连通性测试。
</details>
npm run dev # http://localhost:3000 ```
</details>
| 变量 | 说明 | 必填 |
|---|---|---|
RELAY_API_KEY | 客户端请求鉴权密钥(逗号分隔支持多个) | ✅ |
RELAY_ADMIN_KEY | 后台管理登录密钥(未设置则回退到 RELAY_API_KEY) | ⬜ |
RELAY_SIGNING_SECRET | 临时 Key 签名密钥(未设置则回退到管理/请求密钥) | ⬜ |
OPENAI_KEYS | OpenAI API Keys(逗号分隔) | ⬜ |
CLAUDE_KEYS | Anthropic API Keys | ⬜ |
DEEPSEEK_KEYS | DeepSeek API Keys | ⬜ |
XIAOMI_KEYS | Xiaomi API Keys | ⬜ |
[!NOTE] Provider 密钥建议通过 Admin 后台配置(存储在 Upstash Redis 中),而非写入环境变量。
from openai import OpenAI
client = OpenAI(
api_key="YOUR_RELAY_API_KEY",
base_url="https://你的项目.vercel.app/v1"
)
response = client.chat.completions.create(
model="gpt-5.4",
messages=[{"role": "user", "content": "你好!"}]
)
| 特性 | AI Relay | OpenRouter | OneAPI / new-api | FastGPT |
|---|---|---|---|---|
| **部署方式** | **Vercel 一键部署(Edge)** | 纯 SaaS | 自托管(Docker) | 自托管(Docker) |
| **基础设施成本** | **无需服务器,可从免费层开始** | 按量付费 | 需要服务器 | 需要服务器 |
| **冷启动** | < 50ms | N/A | 秒级 | 秒级 |
| **熔断器** | ✅ | ❌ | ❌ | ❌ |
| **Fallback 链** | ✅ 可配置 | ✅ 自动 | ✅ 基础 | ✅ 基础 |
| **并发控制** | ✅ 令牌桶 + 队列 | 限流 | ❌ | ❌ |
| **Webhook 告警** | ✅ 4 平台 | ❌ | ❌ | ✅ |
| **临时 API Key** | ✅ HMAC 签名 | ❌ | ✅ | ✅ |
| **主要场景** | 个人 / 小团队 | API 市场 | 多 Key 管理 | 知识库 + API |
选择 AI Relay: 当你想要“自己可控的 AI API 网关”,但不想买服务器、维护 Docker 或搭后端时,AI Relay 是更轻的路线:无服务器、2 分钟部署、多 Provider 故障转移、Edge 低延迟。
ai-relay 是一个专为开发者设计的无服务器 AI API 中转网关。它支持通过 Vercel 一键快速部署,让你在短短 2 分钟内即可拥有属于自己的多 Provider AI Relay 服务。该项目旨在简化 AI 接口的管理与分发,通过 Serverless 架构实现高效、低成本的 API 聚合与路由。
ai-relay 具备强大的功能特性:采用基于 Vercel Edge Runtime 的无服务器架构,无需维护 Docker 或 VPS;支持 OpenAI 协议,可实现零改动对接;内置多 Provider 路由功能,支持 OpenAI、Claude、DeepSeek 及小米 MiMo 等模型;具备智能负载均衡能力,支持多 Key Round-Robin 轮换、429 错误自动退避以及 Provider 级的链式 Fallback 故障转移机制,并配备熔断器防止级联故障。
部署 ai-relay 非常简单。首先,你需要准备一个 Vercel 账号及至少一个 AI Provider 的 API Key。通过点击项目提供的 Deploy with Vercel 按钮,在部署页面填入必要的环境变量(RELAY_API_KEY、RELAY_ADMIN_KEY 和 RELAY_SIGNING_SECRET)即可完成上线。随后,按照指引启用 Upstash for Redis 并将其关联至 Vercel 项目,即可实现完整的后端存储与状态管理。
ai-relay 适用于多种应用场景:个人开发者可以通过它将多个 API Key 整合为单一端点,实现自动轮换与故障转移;小团队可以利用其 Admin 后台进行配额管理与用量监控;在 CI/CD 流程中,可通过 HMAC 临时密钥实现自动过期管理;对于全球化应用,Edge Runtime 提供的低延迟响应与熔断机制能有效优化用户体验并降低成本。
项目通过环境变量进行配置。你需要在 `.env.local` 或 Vercel 的环境变量设置中填入各类 Provider 的 API Keys(如 OPENAI_KEYS、CLAUDE_KEYS、DEEPSEEK_KEYS 等)。此外,为了确保安全性,必须配置 RELAY_API_KEY 用于客户端鉴权,以及 RELAY_SIGNING_SECRET 用于临时 Key 的签名。所有配置均遵循标准的环境变量管理规范。
ai-relay 完全兼容 OpenAI SDK 标准。开发者无需修改原有逻辑,只需将 OpenAI Client 的 `base_url` 指向你部署的 Vercel 项目地址,并将 `api_key` 设置为你在 ai-relay 中配置的鉴权密钥,即可像调用原生 OpenAI 接口一样调用 Claude、DeepSeek 等其他 Provider 的模型。
该项目提供了一种快速部署 AI API 中转网关的方式,提高 AI 应用开发效率,兼容 OpenAI API,但缺乏详细的文档和示例代码
AI Skill Hub 为第三方内容聚合平台,本页面信息基于公开数据整理,不对工具功能和质量作任何法律背书。
建议在沙箱或测试环境中充分验证后,再部署至生产环境,并做好必要的安全评估。
✅ MIT 协议 — 最宽松的开源协议之一,可自由商用、修改、分发,仅需保留版权声明。
总体来看,开源AI工具:无服务器 AI API 中转网关 是一款质量良好的AI工具,在同类工具中具备一定竞争力。AI Skill Hub 将持续追踪其更新动态,建议收藏备用,结合自身场景选择合适时机引入使用。
| 原始名称 | ai-relay |
| 原始描述 | 开源AI工具:无服务器 AI API 中转网关,一键部署到 Vercel;Serverless AI API relay gateway with OpenAI-compat。⭐16 · TypeScript |
| Topics | aiapi-gatewayedge-runtimellm |
| GitHub | https://github.com/MoyuFamily/ai-relay |
| License | MIT |
| 语言 | TypeScript |
收录时间:2026-05-24 · 更新时间:2026-05-30 · License:MIT · AI Skill Hub 不对第三方内容的准确性作法律背书。