能力标签

🔄 工作流 🐳 Docker 🔗 REST API 📚 RAG 🧠 Claude ✨ GPT 🖥 本地 LLM

🛠

AI工具

生成式AI项目模板

基于 Python · 开源免费，本地部署，数据完全自主可控

英文名：generative-ai-project-template

⭐ 117 Stars 🍴 12 Forks 💻 Python 📄 MIT 🏷 AI 7.5分

7.5AI 综合评分

installableazureopenailinuxmacosmkdocsmlopspython

🌐 访问官网

✦ AI Skill Hub 推荐

生成式AI项目模板是 AI Skill Hub 本期精选AI工具之一。综合评分 7.5 分，整体质量较高。我们推荐使用将其纳入你的 AI 工具库，帮助提升工作效率。

📚 深度解析

生成式AI项目模板是一款基于 Python 的开源工具，在 GitHub 上收获 0k+ Star，是installable、azureopenai、linux、macos领域中的优质开源项目。开源工具的最大优势在于代码完全透明，你可以审计每一行代码的安全性，也可以根据自身需求进行二次开发和定制。

**为什么要使用开源工具而非商业 SaaS？**
对于个人开发者和有隐私需求的用户，本地部署的开源工具意味着数据不离本机，不受第三方服务商的数据政策约束。同时，开源工具通常没有使用次数限制和月度费用，一次安装即可长期使用，对于高频使用场景的总拥有成本（TCO）远低于订阅制商业工具。

**安装与环境准备**
生成式AI项目模板依赖 Python 运行环境。建议通过 pyenv（Python）或 nvm（Node.js）管理 Python 版本，避免全局环境污染。对于新手用户，推荐先创建虚拟环境（python -m venv venv && source venv/bin/activate），再安装依赖，这样即使出现问题也可以随时删除虚拟环境重新开始，不影响系统稳定性。

**社区与维护**
GitHub Issue 和 Discussion 是获取帮助的最快渠道。在提问前建议先检查 Closed Issues（已关闭的问题），大多数常见问题都已有解答。遇到 Bug 时，提供 pip list 的输出、完整错误堆栈和最小可复现示例，能显著提高开发者响应速度。AI Skill Hub 将持续追踪生成式AI项目模板的版本更新，及时通知重要功能变化。

📋 工具概览

生成式AI项目模板是一款基于 Python 开发的开源工具，专注于 installable、azureopenai、linux 等核心功能。作为 GitHub 开源项目，它拥有活跃的社区支持和持续的版本迭代，代码完全透明可审计，支持本地部署以保护数据隐私。无论是个人使用还是集成到企业工作流，都能提供稳定可靠的解决方案。

GitHub Stars

⭐ 117

开发语言

Python

支持平台

Windows / macOS / Linux

维护状态

轻量级项目，按需更新

开源协议

MIT

AI 综合评分

7.5 分

工具类型

AI工具

Forks

📖 中文文档

以下内容由 AI Skill Hub 根据项目信息自动整理，如需查看完整原始文档请访问底部「原始来源」。

📌 核心特色

开源免费，支持本地部署，数据完全自主可控
活跃的 GitHub 开源社区，持续迭代更新
提供详细文档和使用示例，新手友好
支持自定义配置，灵活适配不同使用环境
可作为基础组件集成进现有技术栈或进行二次开发

🎯 主要使用场景

本地部署运行，保护数据隐私，满足合规要求
自定义集成到现有系统，扩展技术栈能力
作为开源基础组件进行商业化二次开发

以下安装命令基于项目开发语言和类型自动生成，实际以官方 README 为准。

安装命令

# 方式一：pip 安装（推荐）
pip install generative-ai-project-template

# 方式二：虚拟环境安装（推荐生产环境）
python -m venv .venv
source .venv/bin/activate  # Windows: .venv\Scripts\activate
pip install generative-ai-project-template

# 方式三：从源码安装（获取最新功能）
git clone https://github.com/AmineDjeghri/generative-ai-project-template
cd generative-ai-project-template
pip install -e .

# 验证安装
python -c "import generative_ai_project_template; print('安装成功')"

📋 安装步骤说明

访问 GitHub 仓库页面
按照 README 文档完成依赖安装
根据系统环境完成初始化配置
参考官方示例或文档开始使用
遇到问题可在 GitHub Issues 中查找解答

以下用法示例由 AI Skill Hub 整理，涵盖最常见的使用场景。

常用命令 / 代码示例

# 命令行使用
generative-ai-project-template --help

# 基本用法
generative-ai-project-template input_file -o output_file

# Python 代码中调用
import generative_ai_project_template

# 示例
result = generative_ai_project_template.process("input")
print(result)

以下配置示例基于典型使用场景生成，具体参数请参照官方文档调整。

配置示例

# generative-ai-project-template 配置文件示例（config.yml）
app:
  name: "generative-ai-project-template"
  debug: false
  log_level: "INFO"

# 运行时指定配置文件
generative-ai-project-template --config config.yml

# 或通过环境变量配置
export GENERATIVE_AI_PROJECT_TEMPLATE_API_KEY="your-key"
export GENERATIVE_AI_PROJECT_TEMPLATE_OUTPUT_DIR="./output"

📑 README 深度解析真实文档完整度 26/100 查看 GitHub 原文 →

以下内容由系统直接从 GitHub README 解析整理，保留代码块、表格与列表结构。

简介

<img src="./assets/icon.svg" width="200" /> <h1>Generative AI Project Template</h1>

[]()

Template for a new AI Cloud project.

Click on <kbd>Use this template</kbd> to start your own project!

This project is a generative ai template. It contains the following features: LLMs, information extraction, chat, rag & evaluation. It uses LLMs(local or cloud), NiceGUI (frontend) & FastAPI (backend) & Promptfoo as an evaluation and redteam framework for your AI system.

Test LLM
<img src="./assets/frontend_img.png" width="500" />

Engineering tools:

[x] Use UV to manage packages in a workspace (frontend and backend).
[x] pre-commit hooks: use `ruff to ensure the code quality & detect-secrets` to scan the secrets in the code.
[x] Logging using loguru (with colors)
[x] Pytest for unit tests
[x] Dockerized project (Dockerfile & docker-compose).
[x] NiceGUI (frontend) & FastAPI (backend)
[x] Make commands to handle everything for you: install, run, test

AI tools:

[x] LLM running locally with Ollama or in the cloud with any LLM provider (LiteLLM)
[x] Information extraction and Question answering from documents
[x] Chat to test the AI system
[x] Efficient async code using asyncio.
[x] AI Evaluation framework: using Promptfoo, Ragas & more...

CI/CD & Maintenance tools:

[x] CI/CD pipelines: `.github/workflows` for GitHub (Testing the AI system, local models with Ollama and the dockerized app)
[x] Local CI/CD pipelines: GitHub Actions using `github act`
[x] GitHub Actions for deploying to GitHub Pages with mkdocs gh-deploy
[x] Dependabot `.github/dependabot.yml` for automatic dependency and security updates

Documentation tools:

[x] Wiki creation and setup of documentation website using Mkdocs
[x] GitHub Pages deployment using mkdocs gh-deploy plugin

Upcoming features: - [ ] add RAG again - [ ] optimize caching in CI/CD - [ ] Pull requests templates - [ ] Additional MLOps templates: https://github.com/fmind/mlops-python-package - [ ] Add MLFlow - [ ] add Langfuse

1.1. Local Prerequisites

Ubuntu 22.04 or MacOS
git clone the repository
UV & Python 3.12 (will be installed by the Makefile)
Create a `.env file *(take a look at the .env.example` file)*

1. Getting started

This project is a monorepo containing two main packages:

frontend: A NiceGUI application.
backend: A FastAPI application that serves the AI models and business logic.

The project uses uv as a package manager and is configured as a workspace, so dependencies for both packages can be installed with a single command.

1.2 ⚙️ Steps for Installation

This project uses a Makefile to simplify the installation and execution process.

#### Local Installation 1. For CPU-based environment (or MacOS) To install all dependencies for both frontend and backend for a CPU environment, run:

   make install-dev

2. For NVIDIA GPU (CUDA) environment If you have an NVIDIA GPU and want to use CUDA for acceleration, run:

   make install-dev-cuda

This will install the CUDA-enabled version of PyTorch.

#### Using Docker The project can be fully containerized using Docker. This is the recommended way to run the application as it handles all services and networks. - The docker-compose.yml and docker-compose-cuda.yml files define the services. - To run the entire application stack using Docker Compose with CPU support:

  make docker-compose

- To run with CUDA support:

  make docker-compose-cuda

- To rebuild and run (useful after code changes):

  # CPU
  make docker-compose-rebuild
  # CUDA
  make docker-compose-cuda-rebuild

#### Using Local vs. Cloud LLMs - Local model (Ollama): - Install Ollama: make install-ollama - Ensure Ollama is running (make run-ollama can help). - Set your .env file to point to the local Ollama endpoint (copy and paste from the .env.example file). - Download a model: make download-ollama-models - Test the connection: make test-ollama - Test the connection: make test-inference-llm - Cloud model (OpenAI, Anthropic, etc.): - Update your .env file with the correct API keys and model names, following the LiteLLM naming convention. - Test the connection: make test-inference-llm

#### Running the Application Once installed (either locally or via Docker), you can run the services.

- Run Everything: The make run-app command is the easiest way to start all services, including the frontend, backend, database, and Ollama.

Run Services Individually:
Run Backend: make run-backend
Run Frontend: make run-frontend

You can then access: - Frontend (NiceGUI): http://localhost:8080 (or the configured port) - Backend (FastAPI): http://localhost:8000 (or the configured port). Docs http://localhost:8000/docs

1.3 ⚙️ Steps for Installation (Contributors and maintainers)

Check the CONTRIBUTING.md file for more information.

Installation Commands

Command	Description
`make install-uv`	Install uv package manager
`make install-dev`	Install all dev dependencies (CPU)
`make install-dev-cuda`	Install all dev dependencies (CUDA)
`make install-frontend`	Install frontend dependencies only
`make install-backend`	Install backend dependencies (CPU)
`make install-backend-cuda`	Install backend dependencies (CUDA)
`make install-ollama`	Install Ollama
`make download-ollama-models`	Download Ollama models

Build & Docker Commands

Command	Description
`make docker-compose`	Run docker-compose
`make docker-compose-cuda`	Run docker-compose with CUDA support
`make docker-compose-rebuild`	Run docker-compose with rebuild
`make deploy-doc-local`	Deploy documentation locally
`make deploy-doc-gh`	Deploy documentation to GitHub Pages

🎯 aiskill88 AI 点评 A 级 2026-05-23

该项目提供了一个开源的生成式AI项目模板，支持多种技术栈，帮助开发者快速搭建AI项目。然而，项目的文档和示例可能需要进一步完善。

⚡ 核心功能

开源免费，支持本地部署，数据完全自主可控
活跃的 GitHub 开源社区，持续迭代更新
提供详细文档和使用示例，新手友好
支持自定义配置，灵活适配不同使用环境
可作为基础组件集成进现有技术栈或进行二次开发

👥 适合人群

AI 技术爱好者研究人员和学生开发者和工程师技术创业者

🎯 使用场景

本地部署运行，保护数据隐私，满足合规要求
自定义集成到现有系统，扩展技术栈能力
作为开源基础组件进行商业化二次开发

⚖️ 优点与不足

✅ 优点

+MIT 协议，可免费商用
+完全开源免费，无授权费用
+本地部署，数据完全自主可控
+开发者社区支持，遇问题可查可问

⚠️ 不足

−安装和初始配置可能需要一定技术基础
−功能完整性通常不如成熟商业产品
−技术支持主要依赖开源社区，响应速度不稳定

⚠️ 使用须知

AI Skill Hub 为第三方内容聚合平台，本页面信息基于公开数据整理，不对工具功能和质量作任何法律背书。

建议在沙箱或测试环境中充分验证后，再部署至生产环境，并做好必要的安全评估。

📄 License 说明

🔗 相关工具推荐

yt-dlp 视频下载

功能强大的开源视频下载工具，支持YouTube、TikTok等数千个视频平台，可自动下载视频、字幕、封面和元数据。适合内

transformers AI技能包

Hugging Face开源的深度学习框架，提供预训练语言模型、视觉模型和多模态模型。集成BERT、GPT、Llama等

ComfyUI 节点式AI图像生成

强大的开源扩散模型可视化工具，提供图形界面、API和后端服务。采用节点图式设计，支持模块化工作流构建，适合AI绘图、图像

llama-cpp AI技能包

高效的大语言模型C/C++推理框架，支持在本地CPU/GPU上运行量化LLM模型，具有内存占用小、推理速度快的特点。适合

🧩 你可能还需要

基于当前 Skill 的能力图谱，自动补全的工具组合

total-agent-memory MCP工具

为Claude Code和Codex CLI提供持久化记忆功能的开源MCP工具。自动提取知识图谱，支持多轮对话上下文保留，适合需要长期记忆和

natively-cluely-ai-assistant — Claude Skill 中文使用文档

免费开源的AI面试助手，实时转录，隐蔽模式，局部RAG，BYOK。无订阅，防止数据泄露。

优先级锻造

MCP · Agent · 工作流

❓ 常见问题 FAQ

如何安装？−

克隆项目，运行安装脚本

安装这个工具需要什么基础？+

安装过程中遇到依赖冲突怎么办？+

工具安装成功但运行报错，该怎么处理？+

这个工具是否有数据隐私风险？+

工具更新后会影响已有的配置和数据吗？+

💡 AI Skill Hub 点评

经综合评估，生成式AI项目模板在AI工具赛道中表现稳健，质量良好。如果你已有明确的使用需求，可以直接上手体验；如果还在评估阶段，建议对比同类工具后再做决策。

📚 深入学习生成式AI项目模板

查看分步骤安装教程和完整使用指南，快速上手这款工具

⚙️ 安装教程 📚 使用教程

🌐 原始信息

原始名称	`generative-ai-project-template`
Topics	`installableazureopenailinuxmacosmkdocsmlopspython`
GitHub	https://github.com/AmineDjeghri/generative-ai-project-template
License	MIT
语言	Python

🔗 原始来源

🐙 GitHub 仓库 https://github.com/AmineDjeghri/generative-ai-project-template 🌐 官方网站 http://aminedjeghri.com/generative-ai-project-template/

收录时间：2026-05-23 · 更新时间：2026-05-23 · License：MIT · AI Skill Hub 不对第三方内容的准确性作法律背书。