能力标签
开源AI工具:无服务器 AI API 中转网关
🛠
AI工具

开源AI工具:无服务器 AI API 中转网关

基于 TypeScript · 开源免费,本地部署,数据完全自主可控
英文名:ai-relay
⭐ 16 Stars 🍴 5 Forks 💻 TypeScript 📄 MIT 🏷 AI 7.5分
7.5AI 综合评分
aiapi-gatewayedge-runtimellm
✦ AI Skill Hub 推荐

AI Skill Hub 推荐使用:开源AI工具:无服务器 AI API 中转网关 是一款优质的AI工具。AI 综合评分 7.5 分,在同类工具中表现稳健。如果你正在寻找可靠的AI工具解决方案,这是一个值得深入了解的选择。

📚 深度解析

开源AI工具:无服务器 AI API 中转网关 是一款基于 TypeScript 的开源工具,在 GitHub 上收获 0k+ Star,是ai、api-gateway、edge-runtime、llm领域中的优质开源项目。开源工具的最大优势在于代码完全透明,你可以审计每一行代码的安全性,也可以根据自身需求进行二次开发和定制。

**为什么要使用开源工具而非商业 SaaS?**
对于个人开发者和有隐私需求的用户,本地部署的开源工具意味着数据不离本机,不受第三方服务商的数据政策约束。同时,开源工具通常没有使用次数限制和月度费用,一次安装即可长期使用,对于高频使用场景的总拥有成本(TCO)远低于订阅制商业工具。

**安装与环境准备**
开源AI工具:无服务器 AI API 中转网关 依赖 TypeScript 运行环境。建议通过 pyenv(Python)或 nvm(Node.js)管理 TypeScript 版本,避免全局环境污染。对于新手用户,推荐先创建虚拟环境(python -m venv venv && source venv/bin/activate),再安装依赖,这样即使出现问题也可以随时删除虚拟环境重新开始,不影响系统稳定性。

**社区与维护**
GitHub Issue 和 Discussion 是获取帮助的最快渠道。在提问前建议先检查 Closed Issues(已关闭的问题),大多数常见问题都已有解答。遇到 Bug 时,提供 pip list 的输出、完整错误堆栈和最小可复现示例,能显著提高开发者响应速度。AI Skill Hub 将持续追踪 开源AI工具:无服务器 AI API 中转网关 的版本更新,及时通知重要功能变化。

📋 工具概览

无服务器 AI API 中转网关,一键部署到 Vercel,兼容 OpenAI API,提高 AI 应用开发效率

开源AI工具:无服务器 AI API 中转网关 是一款基于 TypeScript 开发的开源工具,专注于 ai、api-gateway、edge-runtime 等核心功能。作为 GitHub 开源项目,它拥有活跃的社区支持和持续的版本迭代,代码完全透明可审计,支持本地部署以保护数据隐私。无论是个人使用还是集成到企业工作流,都能提供稳定可靠的解决方案。

GitHub Stars
⭐ 16
开发语言
TypeScript
支持平台
Windows / macOS / Linux
维护状态
轻量级项目,按需更新
开源协议
MIT
AI 综合评分
7.5 分
工具类型
AI工具
Forks
5

📖 中文文档

以下内容由 AI Skill Hub 根据项目信息自动整理,如需查看完整原始文档请访问底部「原始来源」。

无服务器 AI API 中转网关,一键部署到 Vercel,兼容 OpenAI API,提高 AI 应用开发效率

开源AI工具:无服务器 AI API 中转网关 是一款基于 TypeScript 开发的开源工具,专注于 ai、api-gateway、edge-runtime 等核心功能。作为 GitHub 开源项目,它拥有活跃的社区支持和持续的版本迭代,代码完全透明可审计,支持本地部署以保护数据隐私。无论是个人使用还是集成到企业工作流,都能提供稳定可靠的解决方案。

📌 核心特色
  • 开源免费,支持本地部署,数据完全自主可控
  • 活跃的 GitHub 开源社区,持续迭代更新
  • 提供详细文档和使用示例,新手友好
  • 支持自定义配置,灵活适配不同使用环境
  • 可作为基础组件集成进现有技术栈或进行二次开发
🎯 主要使用场景
  • 本地部署运行,保护数据隐私,满足合规要求
  • 自定义集成到现有系统,扩展技术栈能力
  • 作为开源基础组件进行商业化二次开发
以下安装命令基于项目开发语言和类型自动生成,实际以官方 README 为准。
安装命令
# 方式一:npm 全局安装
npm install -g ai-relay

# 方式二:npx 直接运行(无需安装)
npx ai-relay --help

# 方式三:项目依赖安装
npm install ai-relay

# 方式四:从源码运行
git clone https://github.com/MoyuFamily/ai-relay
cd ai-relay
npm install
npm start
📋 安装步骤说明
  1. 访问 GitHub 仓库页面
  2. 按照 README 文档完成依赖安装
  3. 根据系统环境完成初始化配置
  4. 参考官方示例或文档开始使用
  5. 遇到问题可在 GitHub Issues 中查找解答
以下用法示例由 AI Skill Hub 整理,涵盖最常见的使用场景。
常用命令 / 代码示例
# 命令行使用
ai-relay --help

# 基本用法
ai-relay [options] <input>

# Node.js 代码中使用
const ai_relay = require('ai-relay');

const result = await ai_relay.run(options);
console.log(result);
以下配置示例基于典型使用场景生成,具体参数请参照官方文档调整。
配置示例
# ai-relay 配置说明
# 查看配置选项
ai-relay --config-example > config.yml

# 常见配置项
# output_dir: ./output
# log_level: info
# workers: 4

# 环境变量(覆盖配置文件)
export AI_RELAY_CONFIG="/path/to/config.yml"
📑 README 深度解析 真实文档 完整度 78/100 查看 GitHub 原文 →
以下内容由系统直接从 GitHub README 解析整理,保留代码块、表格与列表结构。

简介

<img src="docs/assets/logo-banner.svg" alt="AI Relay" width="400">

无服务器 AI API 中转网关:一键部署到 Vercel,2 分钟拥有自己的多 Provider AI Relay

🚀 一键部署到 Vercel,2 分钟上线你的 AI API 网关

<p>不用买服务器,不用维护 Docker,只需填写 3 个环境变量,即可拥有自己的多 Provider AI Relay。</p>

<p> <a href="https://vercel.com/new/clone?repository-url=https://github.com/MoyuFamily/ai-relay&env=RELAY_API_KEY,RELAY_ADMIN_KEY,RELAY_SIGNING_SECRET&envDescription=API%20authentication%20keys%20(required%20for%20security)&envLink=https://github.com/MoyuFamily/ai-relay#environment-variables"> <img src="https://vercel.com/button" alt="Deploy with Vercel" height="42"> </a> </p>

<p><strong><a href="https://vercel.com/new/clone?repository-url=https://github.com/MoyuFamily/ai-relay&env=RELAY_API_KEY,RELAY_ADMIN_KEY,RELAY_SIGNING_SECRET&envDescription=API%20authentication%20keys%20(required%20for%20security)&envLink=https://github.com/MoyuFamily/ai-relay#environment-variables">👉 立即一键部署</a></strong> · <a href="#-一键部署2-分钟上线你的-ai-api-网关">查看部署步骤</a></p>

Version License: MIT Next.js Edge Runtime Upstash Redis

English · 中文

</div>

---

🚀 不用买服务器,不用写后端,不用维护 Docker。 AI Relay 基于 Vercel Edge Runtime 构建,点击 Deploy with Vercel,配置 3 个环境变量,即可获得一个支持 OpenAI / Claude / DeepSeek / 自定义 Provider 的无服务器 AI API 中转网关。
你关心的AI Relay 的答案
**怎么部署?**点一下 Deploy with Vercel,填 3 个环境变量,约 2 分钟上线
**要服务器吗?**不需要 VPS,不需要 Docker,不需要后端运维
**能免费跑吗?**面向 Vercel Edge + KV 设计,个人 / 小团队可从免费层开始
**接入复杂吗?**OpenAI SDK 只改 base_url,继续使用 /v1/chat/completions

✨ 特性

特性说明
**无服务器架构**基于 Vercel Edge Runtime,无需购买 VPS / 维护 Docker / 管理后端服务
**一键部署**点击 Deploy with Vercel,填写 3 个环境变量,约 2 分钟上线
**免费层可用**个人和小团队可直接使用 Vercel 免费层跑起来
**OpenAI 兼容**直接用 OpenAI SDK 对接,零改动
**多 Provider 路由**OpenAI · Claude · DeepSeek · MiMo · 自定义
**多 Key 轮换**Round-Robin + 429 自动退避
**多级 Fallback**Provider → Key 链式故障转移
**熔断器**Provider 故障时自动切换
**Admin 后台**密钥管理、配额配置、用量统计、模型测试
**流式响应**SSE 透传,实时输出
**Webhook 通知**企微 / 飞书 / 钉钉 / Slack,日报 + 超限告警
**临时 API Key**HMAC-SHA256 无状态签名,自动过期
**虚拟模型映射**将虚拟模型名路由到真实 Provider

支持的 Provider

Provider模型示例状态
OpenAIgpt-5.4, gpt-latest, gpt-5.4-mini✅ 内置
Anthropic (Claude)claude-sonnet-4-6, claude-opus-4-7✅ 内置
DeepSeekdeepseek-v4-flash, deepseek-v4-pro✅ 内置
Xiaomi (MiMo)mimo-7b✅ 内置
自定义任意 OpenAI 兼容 API✅ 可配置

🚀 一键部署:2 分钟上线你的 AI API 网关

前置条件: Vercel 账号(免费)+ 至少一个 AI Provider 的 API Key

第 1 步 — 部署

点击上方 Deploy with Vercel 按钮,填入 3 个环境变量:

变量说明
RELAY_API_KEY客户端请求鉴权密钥(自定义强密码)
RELAY_ADMIN_KEY后台管理登录密钥(可同上)
RELAY_SIGNING_SECRET临时 Key 签名密钥(可同上)

点击 Deploy,等待部署完成。

第 2 步 — 启用 Upstash for Redis 并关联项目

1. 打开 Vercel Dashboard,进入刚部署的项目。 2. 在左侧菜单选择 Storage,点击 Create Database。 3. 选择 Upstash for Redis,创建数据库时选择 Free 套餐,其他选项保持默认即可,然后在弹出窗口中 Connect to your project(将 Redis 绑定到当前项目)。 4. 确认 Vercel 已为当前环境自动注入以下变量: - KV_REST_API_URL - KV_REST_API_TOKEN

说明:项目使用 Upstash Redis 的 REST API。Vercel 连接 Upstash 后通常会自动注入 KV_REST_API_URLKV_REST_API_TOKEN;若你手动部署或后续新建 Redis,请在 Settings → Environment Variables 中确认这些变量已存在。

第 3 步 — 验证

```bash curl https://你的项目.vercel.app/health

📖 使用方法

🎯 使用场景

场景说明
**个人开发者**多 Key 整合为单一端点,自动轮换 + 故障转移
**小团队**共享中转实例,配额管理,Admin 可见性
**CI/CD**HMAC 临时密钥,自动过期无需清理
**多地域应用**Edge 全球 < 50ms,熔断防级联故障
**成本优化**虚拟模型映射,按任务复杂度路由 Provider
**企业内部**API 网关 + Webhook 告警,用量监控

📸 截图

<details> <summary>点击展开截图</summary>

运行概览

管理后台运行概览

限额状态、今日消耗概览、Token 消耗趋势一目了然。

密钥管理

管理后台密钥管理

多服务商密钥池,带状态指示和模型前缀映射。

辅助工具

管理后台辅助工具

临时密钥生成和模型连通性测试。

</details>

编辑 .env.local 填入你的 API Keys

npm run dev # http://localhost:3000 ```

</details>

🔧 配置参考

环境变量

变量说明必填
RELAY_API_KEY客户端请求鉴权密钥(逗号分隔支持多个)
RELAY_ADMIN_KEY后台管理登录密钥(未设置则回退到 RELAY_API_KEY
RELAY_SIGNING_SECRET临时 Key 签名密钥(未设置则回退到管理/请求密钥)
OPENAI_KEYSOpenAI API Keys(逗号分隔)
CLAUDE_KEYSAnthropic API Keys
DEEPSEEK_KEYSDeepSeek API Keys
XIAOMI_KEYSXiaomi API Keys
[!NOTE] Provider 密钥建议通过 Admin 后台配置(存储在 Upstash Redis 中),而非写入环境变量。

OpenAI SDK

from openai import OpenAI

client = OpenAI(
    api_key="YOUR_RELAY_API_KEY",
    base_url="https://你的项目.vercel.app/v1"
)

response = client.chat.completions.create(
    model="gpt-5.4",
    messages=[{"role": "user", "content": "你好!"}]
)

🏁 同类项目对比

特性AI RelayOpenRouterOneAPI / new-apiFastGPT
**部署方式****Vercel 一键部署(Edge)**纯 SaaS自托管(Docker)自托管(Docker)
**基础设施成本****无需服务器,可从免费层开始**按量付费需要服务器需要服务器
**冷启动**< 50msN/A秒级秒级
**熔断器**
**Fallback 链**✅ 可配置✅ 自动✅ 基础✅ 基础
**并发控制**✅ 令牌桶 + 队列限流
**Webhook 告警**✅ 4 平台
**临时 API Key**✅ HMAC 签名
**主要场景**个人 / 小团队API 市场多 Key 管理知识库 + API

选择 AI Relay: 当你想要“自己可控的 AI API 网关”,但不想买服务器、维护 Docker 或搭后端时,AI Relay 是更轻的路线:无服务器、2 分钟部署、多 Provider 故障转移、Edge 低延迟。

🇨🇳 中文文档镜像 AI 翻译 2026-06-02
英文原文章节由系统翻译为中文摘要,便于快速理解。完整原文见上方 "📑 README 深度解析"。
📌 简介

ai-relay 是一个专为开发者设计的无服务器 AI API 中转网关。它支持通过 Vercel 一键快速部署,让你在短短 2 分钟内即可拥有属于自己的多 Provider AI Relay 服务。该项目旨在简化 AI 接口的管理与分发,通过 Serverless 架构实现高效、低成本的 API 聚合与路由。

⚡ 功能介绍

ai-relay 具备强大的功能特性:采用基于 Vercel Edge Runtime 的无服务器架构,无需维护 Docker 或 VPS;支持 OpenAI 协议,可实现零改动对接;内置多 Provider 路由功能,支持 OpenAI、Claude、DeepSeek 及小米 MiMo 等模型;具备智能负载均衡能力,支持多 Key Round-Robin 轮换、429 错误自动退避以及 Provider 级的链式 Fallback 故障转移机制,并配备熔断器防止级联故障。

🛠 安装步骤(Docker/pip/源码)

部署 ai-relay 非常简单。首先,你需要准备一个 Vercel 账号及至少一个 AI Provider 的 API Key。通过点击项目提供的 Deploy with Vercel 按钮,在部署页面填入必要的环境变量(RELAY_API_KEY、RELAY_ADMIN_KEY 和 RELAY_SIGNING_SECRET)即可完成上线。随后,按照指引启用 Upstash for Redis 并将其关联至 Vercel 项目,即可实现完整的后端存储与状态管理。

🚀 使用教程

ai-relay 适用于多种应用场景:个人开发者可以通过它将多个 API Key 整合为单一端点,实现自动轮换与故障转移;小团队可以利用其 Admin 后台进行配额管理与用量监控;在 CI/CD 流程中,可通过 HMAC 临时密钥实现自动过期管理;对于全球化应用,Edge Runtime 提供的低延迟响应与熔断机制能有效优化用户体验并降低成本。

⚙️ 配置说明(含 MCP / env)

项目通过环境变量进行配置。你需要在 `.env.local` 或 Vercel 的环境变量设置中填入各类 Provider 的 API Keys(如 OPENAI_KEYS、CLAUDE_KEYS、DEEPSEEK_KEYS 等)。此外,为了确保安全性,必须配置 RELAY_API_KEY 用于客户端鉴权,以及 RELAY_SIGNING_SECRET 用于临时 Key 的签名。所有配置均遵循标准的环境变量管理规范。

🔌 API 说明

ai-relay 完全兼容 OpenAI SDK 标准。开发者无需修改原有逻辑,只需将 OpenAI Client 的 `base_url` 指向你部署的 Vercel 项目地址,并将 `api_key` 设置为你在 ai-relay 中配置的鉴权密钥,即可像调用原生 OpenAI 接口一样调用 Claude、DeepSeek 等其他 Provider 的模型。

🎯 aiskill88 AI 点评 A 级 2026-05-24

该项目提供了一种快速部署 AI API 中转网关的方式,提高 AI 应用开发效率,兼容 OpenAI API,但缺乏详细的文档和示例代码

📚 实用指南(长尾问题)
适合谁
  • 需要 ai-relay 解决具体问题的开发者与运营人员
最佳实践
  • 生产部署优先使用 Docker Compose 隔离依赖,并挂载 volume 持久化数据
常见错误
  • API key 直接提交到 git 仓库(请用 .env 并加入 .gitignore)
  • 容器内无法访问宿主机 localhost — 使用 host.docker.internal
部署方案
  • Docker:ai-relay 提供官方镜像,docker compose up 一键启动
  • 云端托管:可放在 Vercel / Railway / Fly.io 等 PaaS 平台
相关搜索
ai-relay 中文教程ai-relay 安装报错怎么办ai-relay Docker 部署ai-relay 与同类工具对比ai-relay 最佳实践ai-relay 适合谁用

⚡ 核心功能

👥 适合谁
  • 需要 ai-relay 解决具体问题的开发者与运营人员
⭐ 最佳实践
  • 生产部署优先使用 Docker Compose 隔离依赖,并挂载 volume 持久化数据
⚠️ 常见错误
  • API key 直接提交到 git 仓库(请用 .env 并加入 .gitignore)
  • 容器内无法访问宿主机 localhost — 使用 host.docker.internal

👥 适合人群

AI 技术爱好者研究人员和学生开发者和工程师技术创业者

🎯 使用场景

  • 本地部署运行,保护数据隐私,满足合规要求
  • 自定义集成到现有系统,扩展技术栈能力
  • 作为开源基础组件进行商业化二次开发

⚖️ 优点与不足

✅ 优点
  • +MIT 协议,可免费商用
  • +完全开源免费,无授权费用
  • +本地部署,数据完全自主可控
  • +开发者社区支持,遇问题可查可问
⚠️ 不足
  • 安装和初始配置可能需要一定技术基础
  • 功能完整性通常不如成熟商业产品
  • 技术支持主要依赖开源社区,响应速度不稳定
⚠️ 使用须知

AI Skill Hub 为第三方内容聚合平台,本页面信息基于公开数据整理,不对工具功能和质量作任何法律背书。

建议在沙箱或测试环境中充分验证后,再部署至生产环境,并做好必要的安全评估。

📄 License 说明

✅ MIT 协议 — 最宽松的开源协议之一,可自由商用、修改、分发,仅需保留版权声明。

🔗 相关工具推荐

📚 相关教程推荐
📰 相关 AI 新闻
🍿 AI 圈相关吃瓜
🗺️ 相关解决方案
🧩 你可能还需要
基于当前 Skill 的能力图谱,自动补全的工具组合

❓ 常见问题 FAQ

ai-relay 是一款TypeScript开发的AI辅助工具。开源AI工具:无服务器 AI API 中转网关,一键部署到 Vercel;Serverless AI API relay gateway with OpenAI-compat。⭐16 · TypeScript 主要应用场景包括:快速部署 AI API 中转网关,提高 AI 应用开发效率,兼容 OpenAI API。
💡 AI Skill Hub 点评

总体来看,开源AI工具:无服务器 AI API 中转网关 是一款质量良好的AI工具,在同类工具中具备一定竞争力。AI Skill Hub 将持续追踪其更新动态,建议收藏备用,结合自身场景选择合适时机引入使用。

📚 深入学习 开源AI工具:无服务器 AI API 中转网关
查看分步骤安装教程和完整使用指南,快速上手这款工具
🌐 原始信息
原始名称 ai-relay
原始描述 开源AI工具:无服务器 AI API 中转网关,一键部署到 Vercel;Serverless AI API relay gateway with OpenAI-compat。⭐16 · TypeScript
Topics aiapi-gatewayedge-runtimellm
GitHub https://github.com/MoyuFamily/ai-relay
License MIT
语言 TypeScript
🔗 原始来源
🐙 GitHub 仓库  https://github.com/MoyuFamily/ai-relay 🌐 官方网站  https://airelay.izmw.me

收录时间:2026-05-24 · 更新时间:2026-05-30 · License:MIT · AI Skill Hub 不对第三方内容的准确性作法律背书。