AI4J Java SDK

安装

curl -fsSL https://lnyo-cly.github.io/ai4j/install.sh | sh

irm https://lnyo-cly.github.io/ai4j/install.ps1 | iex

安装脚本会从 Maven Central 下载 ai4j-cli 并生成 ai4j 命令，前提是本机已经安装 Java 8+。

快速开始

教程文档

• 快速接入SpringBoot、接入流式与非流式以及函数调用
• Java快速接入qwen2.5、llama3.1等Ollama平台开源大模型
• Java搭建法律AI助手，快速实现RAG应用
• 大模型不支持联网搜索？为Deepseek、Qwen、llama等本地模型添加网络搜索
• java快速接入mcp以及结合mysql动态管理

one-shot 示例

ai4j code `
  --provider openai `
  --protocol responses `
  --model gpt-5-mini `
  --prompt "Read README and summarize the project structure"

交互式 CLI 示例

ai4j code `
  --provider zhipu `
  --protocol chat `
  --model glm-4.7 `
  --base-url https://open.bigmodel.cn/api/coding/paas/v4 `
  --workspace .

TUI 示例

ai4j tui `
  --provider zhipu `
  --protocol chat `
  --model glm-4.7 `
  --base-url https://open.bigmodel.cn/api/coding/paas/v4 `
  --workspace .

ACP 示例

ai4j acp `
  --provider openai `
  --protocol responses `
  --model gpt-5-mini `
  --workspace .

推荐：使用统一 IngestionPipeline 入库

VectorStore vectorStore = aiService.getQdrantVectorStore();

IngestionPipeline ingestionPipeline = aiService.getIngestionPipeline(
        PlatformType.OPENAI,
        vectorStore
);

IngestionResult ingestResult = ingestionPipeline.ingest(IngestionRequest.builder()
        .dataset("kb_docs")
        .embeddingModel("text-embedding-3-small")
        .document(RagDocument.builder()
                .sourceName("员工手册")
                .sourcePath("/docs/employee-handbook.md")
                .tenant("acme")
                .biz("hr")
                .version("2026.03")
                .build())
        .source(IngestionSource.text("第一章 假期政策。第二章 报销政策。"))
        .build());

System.out.println(ingestResult.getUpsertedCount());

如果你已经走 Pinecone，也可以直接：

IngestionPipeline ingestionPipeline = aiService.getPineconeIngestionPipeline(PlatformType.OPENAI);

推荐主线是：

1. IngestionPipeline 负责文档入库
2. VectorStore 负责底层向量存储
3. DenseRetriever / HybridRetriever / ModelReranker / RagService 负责查询阶段

完整说明见：

• docs-site/docs/ai-basics/rag/ingestion-pipeline.md
• docs-site/docs/ai-basics/rag/overview.md

provider profile 配置位置

• 全局配置：~/.ai4j/providers.json
• 工作区配置：<workspace>/.ai4j/workspace.json

推荐工作流：

• 全局保存长期可复用 profile
• workspace 只引用当前 activeProfile
• 临时切模型时使用 workspace 的 modelOverride

workspace.json 也可以显式挂载额外 skill 目录：

{
  "activeProfile": "openai-main",
  "modelOverride": "gpt-5-mini",
  "enabledMcpServers": ["fetch"],
  "skillDirectories": [
    ".ai4j/skills",
    "C:/skills/team",
    "../shared-skills"
  ]
}

skill 发现规则：

• 默认扫描 <workspace>/.ai4j/skills
• 默认扫描 ~/.ai4j/skills
• skillDirectories 中的相对路径按 workspace 根目录解析
• 进入 CLI 后可用 /skills 查看当前发现到的 skill
• 可用 /skills <name> 查看某个 skill 的路径、来源、描述和扫描 roots，不打印 SKILL.md 正文

配置向量数据库

ai:
  vector:
    pinecone:
      host: ""
      key: ""

Coding Agent CLI / TUI

AI4J 目前已经内置 ai4j-cli，可以直接作为本地 coding agent 使用，支持：

• one-shot 与持续会话
• CLI / TUI 两种交互模式
• provider profile 持久化
• workspace 级 model override
• subagent 与 agent teams 协作
• session 持久化、resume、fork、history、tree、events、replay
• team board、team messages、team resume 等协作观测能力
• process 管理与日志查看

已适配的 AgentFlow / 工作流平台

• Dify（Chat / Workflow）
• Coze（Chat / Workflow）
• n8n（Webhook Workflow）

模块选型

• 只需要基础 LLM / Tool Call / MCP / RAG 能力：引入 ai4j
• 需要通用 Agent 运行时：引入 ai4j-agent
• 需要 Coding Agent、workspace tools、outer loop：引入 ai4j-coding
• 需要本地 CLI / TUI / ACP 宿主：引入 ai4j-cli
• 需要 Spring Boot 自动配置：引入 ai4j-spring-boot-starter
• 需要 FlowGram 工作流集成：引入 ai4j-flowgram-spring-boot-starter
• 需要开发第三方插件：引入 ai4j-extension-api
• 需要让 Agent 结构化询问用户：引入 ai4j-plugin-ask-user
• 同时引入多个模块：建议额外引入 ai4j-bom

推荐：Pinecone 也走统一 `VectorStore + IngestionPipeline`

VectorStore vectorStore = aiService.getPineconeVectorStore();

IngestionPipeline ingestionPipeline = aiService.getPineconeIngestionPipeline(PlatformType.OPENAI);

IngestionResult ingestResult = ingestionPipeline.ingest(IngestionRequest.builder()
        .dataset("tenant_a_hr_v202603")
        .embeddingModel("text-embedding-3-small")
        .document(RagDocument.builder()
                .sourceName("员工手册")
                .sourcePath("/docs/employee-handbook.pdf")
                .tenant("tenant_a")
                .biz("hr")
                .version("2026.03")
                .build())
        .source(IngestionSource.file(new File("D:/data/employee-handbook.pdf")))
        .build());

System.out.println("upserted=" + ingestResult.getUpsertedCount());

适用场景与常见方案对比