开源AI工具：RAG知识库系统

快速开始

部署边界

• Java 生产构建必须使用 D:\JDK-11。
• /rag/retrieval/* 没有公共鉴权，不得暴露到公网。
• MCP 公网入口由 Nginx 终止 TLS，并将 /mcp 原路径代理到 rag-mcp:8858/mcp；当前服务不配置 MCP_PUBLIC_URL。
• Access Key、JWT Secret、模型 API Key、数据库和基础设施密码不得写入 README、日志或前端代码。
• MCP 审计发布到 rag.audit.exchange，路由键为 rag.mcp.tool.log.v1，由 rag.mcp.tool.log.queue 消费，并配置死信交换机与死信队列。
• 前端使用 History 路由，静态站点必须把未知路径回退到 index.html。

运行前准备

完整系统依赖 MySQL、Redis、RabbitMQ、MinIO 和 Milvus。数据库结构脚本为根目录的 general_rag_database.sql。各服务的地址和凭据需要按部署环境修改；不要直接复用仓库中的开发环境值。

后端必须使用 Java 11。当前项目约定的本机 JDK 路径是 D:\JDK-11，JDK 21 会触发当前 Lombok 与编译器组合的 JCTree$JCImport.qualid 错误。

当前 rag-llm 的 Embedding 入口固定连接本地 8890 服务，因此运行知识库向量化与检索前需要启动 embedding_rerank 的 Embedding 服务。8891 的本地 Rerank 服务是独立实现；当前 rag-llm 的 Rerank 执行路径仍使用 model_config.json 中的 qwen3-rerank/qwen endpoint。

启动服务

以下命令均从仓库根目录执行。先启动基础设施，再启动模型服务、AI 服务、Java 后端和前端。

```bash

配置入口

• rag-client/src/consts.js：Java API 基础地址。
• rag-server/src/main/resources/application-*.yml：MySQL、Redis、RabbitMQ、MinIO、Milvus、邮件、JWT 和 rag-llm 地址。
• rag-llm/main.py：当前入口在导入服务前直接设置 RabbitMQ、MinIO、Milvus 连接值；部署时必须修改该入口或先改造为不覆盖外部配置。
• rag-llm/model_config.json：聊天模型候选和 Rerank 配置；每次使用时重新从磁盘读取。
• rag-mcp/rag_mcp/config.py 或同名环境变量：Java OpenAPI、内网 rag-llm、监听地址和审计消息配置。
• embedding_rerank/config/*.py：本地 Embedding/Rerank 模型和服务参数；当前实现直接读取类属性。

详细字段和约束见各模块 README。

Java 后端：8080，context-path=/api

cd rag-server $env:JAVA_HOME = "D:\JDK-11" $env:Path = "$env:JAVA_HOME\bin;$env:Path" mvn spring-boot:run

模块组成

general-rag-system/
├── rag-client/          # 前端（Vue 3.5 + Vite 7.2 + Ant Design Vue 4.2 + ant-design-x-vue 1.5）
├── rag-server/          # 业务后端（Spring Boot 2.7 + MyBatis Plus 3.5 + Java 11）
├── rag-llm/             # AI 服务（FastAPI + LangChain，端口 8848）
├── rag-mcp/             # MCP 服务（FastMCP 3，端口 8858）
└── embedding_rerank/    # 本地模型服务（Embedding 当前检索路径必需；Rerank 为独立服务）

模型与回退

• 会话标题：glm-5.2/z-ai。
• RAG Gateway：glm-5.2/z-ai。
• 检索决策控制器：MiniMax-M3/minimax。
• 当前 Embedding 执行路径：本地 Qwen/Qwen3-Embedding-0.6B 服务；配置标识为 text-embedding-v4/qwen。
• Rerank：qwen3-rerank/qwen。

model_config.json 每次使用时从磁盘读取，不使用进程内缓存。官方聊天 LLM 默认超时 60 秒；候选回退只允许发生在流开始之前，已经输出有效内容后不会切换候选。特定 OpenAI 兼容 Gemini 路径通过 ainvoke 完成非流式调用。

模块文档

• rag-client/README.md：依赖、路由、SSE 交互、页面实现、配置与构建。
• rag-server/README.md：接口、认证、权限、配置、数据库、RabbitMQ 与 Java 11 构建。
• rag-llm/README.md：聊天 API、六工具 Agentic RAG、内部检索接口、模型配置和回退机制。
• rag-mcp/README.md：九个 MCP 工具、环境变量、Access Key、审计和 Nginx 部署。
• embedding_rerank/README.md：Embedding/Rerank 统一入口及 API、配置、快速开始文档。