能力标签

🔌 MCP 🤖 Agent 🌐 翻译 🐳 Docker 🧬 Embedding 📚 RAG 🧠 Claude ✨ GPT 🖥 本地 LLM ⛓ LangChain

🛠

AI工具

AI入门指南

基于 Python · 开源免费，本地部署，数据完全自主可控

英文名：AI-Guide-and-Demos-zh_CN

⭐ 4.3k Stars 🍴 453 Forks 💻 Python 📄 MIT 🏷 AI 8.5分

8.5AI 综合评分

AILLMPython

📺 TG 频道

✦ AI Skill Hub 推荐

经 AI Skill Hub 精选评估，AI入门指南获评「强烈推荐」。已获得 4.3k 颗 GitHub Star，这款AI工具在功能完整性、社区活跃度和易用性方面表现出色，AI 评分 8.5 分，适合有一定技术背景的用户使用。

📚 深度解析

AI入门指南是一款基于 Python 的开源工具，在 GitHub 上收获 4k+ Star，是AI、LLM、Python领域中的优质开源项目。开源工具的最大优势在于代码完全透明，你可以审计每一行代码的安全性，也可以根据自身需求进行二次开发和定制。

**为什么要使用开源工具而非商业 SaaS？**
对于个人开发者和有隐私需求的用户，本地部署的开源工具意味着数据不离本机，不受第三方服务商的数据政策约束。同时，开源工具通常没有使用次数限制和月度费用，一次安装即可长期使用，对于高频使用场景的总拥有成本（TCO）远低于订阅制商业工具。

**安装与环境准备**
AI入门指南依赖 Python 运行环境。建议通过 pyenv（Python）或 nvm（Node.js）管理 Python 版本，避免全局环境污染。对于新手用户，推荐先创建虚拟环境（python -m venv venv && source venv/bin/activate），再安装依赖，这样即使出现问题也可以随时删除虚拟环境重新开始，不影响系统稳定性。

**社区与维护**
GitHub Issue 和 Discussion 是获取帮助的最快渠道。在提问前建议先检查 Closed Issues（已关闭的问题），大多数常见问题都已有解答。遇到 Bug 时，提供 pip list 的输出、完整错误堆栈和最小可复现示例，能显著提高开发者响应速度。AI Skill Hub 将持续追踪 AI入门指南的版本更新，及时通知重要功能变化。

📋 工具概览

AI入门指南是一款基于 Python 开发的开源工具，专注于 AI、LLM、Python 等核心功能。作为 GitHub 开源项目，它拥有活跃的社区支持和持续的版本迭代，代码完全透明可审计，支持本地部署以保护数据隐私。无论是个人使用还是集成到企业工作流，都能提供稳定可靠的解决方案。

GitHub Stars

⭐ 4.3k

开发语言

Python

支持平台

Windows / macOS / Linux

维护状态

持续维护，定期更新

开源协议

MIT

AI 综合评分

8.5 分

工具类型

AI工具

Forks

453

📖 中文文档

以下内容由 AI Skill Hub 根据项目信息自动整理，如需查看完整原始文档请访问底部「原始来源」。

📌 核心特色

开源免费，支持本地部署，数据完全自主可控
活跃的 GitHub 开源社区，持续迭代更新
提供详细文档和使用示例，新手友好
支持自定义配置，灵活适配不同使用环境
可作为基础组件集成进现有技术栈或进行二次开发

🎯 主要使用场景

本地部署运行，保护数据隐私，满足合规要求
自定义集成到现有系统，扩展技术栈能力
作为开源基础组件进行商业化二次开发

以下安装命令基于项目开发语言和类型自动生成，实际以官方 README 为准。

安装命令

# 方式一：pip 安装（推荐）
pip install ai-guide-and-demos-zh_cn

# 方式二：虚拟环境安装（推荐生产环境）
python -m venv .venv
source .venv/bin/activate  # Windows: .venv\Scripts\activate
pip install ai-guide-and-demos-zh_cn

# 方式三：从源码安装（获取最新功能）
git clone https://github.com/Hoper-J/AI-Guide-and-Demos-zh_CN
cd AI-Guide-and-Demos-zh_CN
pip install -e .

# 验证安装
python -c "import ai_guide_and_demos_zh_cn; print('安装成功')"

📋 安装步骤说明

访问 GitHub 仓库页面
按照 README 文档完成依赖安装
根据系统环境完成初始化配置
参考官方示例或文档开始使用
遇到问题可在 GitHub Issues 中查找解答

以下用法示例由 AI Skill Hub 整理，涵盖最常见的使用场景。

常用命令 / 代码示例

# 命令行使用
ai-guide-and-demos-zh_cn --help

# 基本用法
ai-guide-and-demos-zh_cn input_file -o output_file

# Python 代码中调用
import ai_guide_and_demos_zh_cn

# 示例
result = ai_guide_and_demos_zh_cn.process("input")
print(result)

以下配置示例基于典型使用场景生成，具体参数请参照官方文档调整。

配置示例

# ai-guide-and-demos-zh_cn 配置文件示例（config.yml）
app:
  name: "ai-guide-and-demos-zh_cn"
  debug: false
  log_level: "INFO"

# 运行时指定配置文件
ai-guide-and-demos-zh_cn --config config.yml

# 或通过环境变量配置
export AI_GUIDE_AND_DEMOS_ZH_CN_API_KEY="your-key"
export AI_GUIDE_AND_DEMOS_ZH_CN_OUTPUT_DIR="./output"

📑 README 深度解析真实文档完整度 54/100 查看 GitHub 原文 →

以下内容由系统直接从 GitHub README 解析整理，保留代码块、表格与列表结构。

镜像介绍

未来将更新为 uv 安装。

所有版本都预装了 sudo、pip、conda、wget、curl 和 vim 等常用工具，且已经配置好 pip 和 conda 的国内镜像源。同时，集成了 zsh 和一些实用的命令行插件（命令自动补全、语法高亮、以及目录跳转工具 z）。此外，已预装 jupyter notebook 和 jupyter lab，设置了其中的默认终端为 zsh，方便进行深度学习开发，并优化了容器内的中文显示，避免出现乱码问题。其中还预配置了 Hugging Face 的国内镜像地址。

版本说明

base 版本：占用约 16GB 存储空间，基于 pytorch/pytorch:2.5.1-cuda11.8-cudnn9-devel，默认 python 版本为 3.11.10，可以通过 conda install python==版本号 直接修改版本。
dl 版本：占用约 20GB 存储空间，在 base 基础上，额外安装了深度学习框架和常用工具，具体查看安装清单。

同步项目依赖

uv sync

该命令会自动同步当前项目的主要依赖：

torch>=2.6
torchvision>=0.19
torchaudio>=2.6
...（详见 pyproject.toml）

这样就成功配置好了所有需要的环境，准备开始学习 :) 如果缺少显卡或者系统原因导致无法完全同步，也不用担心，其余依赖在每个文章中会单独列出，可以尝试直接到对应的文章中进行一部分依赖的下载。

这是一个中文的 AI/LLM 大模型入门项目

回顾过去的学习历程，吴恩达和李宏毅老师的视频为我的深度学习之路提供了极大的帮助。他们幽默风趣的讲解方式和简单直观的阐述，让枯燥的理论学习变得生动有趣。然而，在实践的时候，许多学弟学妹们最初会烦恼于怎么去获取国外大模型的 API ，尽管最终都能找到解决方法，但第一次的畏难情绪总是会拖延学习进度，逐渐转变为“看视频就够了”的状态。我时常在评论区看到类似的讨论，于是决定利用闲暇时间帮学子们跨过这道门槛，这也是项目的初衷。本项目不会提供🪜科学上网的教程，也不会依赖平台自定义的接口，而是使用更兼容的 OpenAI SDK，帮助大家学习更通用的知识。项目将从简单的 API 调用入手，带你逐步深入大模型的世界。在此过程中，你将掌握 AI 视频摘要、LLM 微调和 AI 图像生成等技能。强烈建议观看李宏毅老师的课程「生成式人工智能导论」同步学习：课程相关链接快速访问现在，项目还开设了🎡CodePlayground，你可以按照文档配置好环境，使用一行代码运行脚本，体验 AI 的魅力。 📑论文随笔位于 PaperNotes，将逐步上传大模型相关的基础论文。 🚀 基础镜像已经准备好，如果你还没有配置好属于自己的深度学习环境，不妨尝试一下 Docker。祝你旅途愉快！

安装 Git

Linux (Ubuntu)：

  sudo apt-get update
  sudo apt-get install git

Mac：

先安装 Homebrew：

    /bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)"

然后运行：

  brew install git

Windows：

从 Git for Windows 下载并安装。

安装 Wget 和 Curl

Linux (Ubuntu)：

  sudo apt-get update
  sudo apt-get install wget curl

Mac：

  brew install wget curl

Windows：

从 Wget for Windows 和 Curl 官方网站下载并安装。

安装 pip

注意：如果已经安装了 Anaconda 或 Miniconda，系统中会包含 pip，无需额外安装。

Linux (Ubuntu)：

  sudo apt-get update
  sudo apt-get install python3-pip

Mac：

  brew install python3

Windows：

下载并安装 Python，确保勾选“Add Python to PATH”选项。

打开命令提示符，输入：

     python -m ensurepip --upgrade

验证安装

在终端中输入以下命令，如果显示版本信息，则说明安装成功。

pip --version

配置国内镜像源（可选，建议）

pip config set global.index-url https://mirrors.aliyun.com/pypi/simple

安装 uv

Linux/Mac：

  curl -LsSf https://astral.sh/uv/install.sh | sh
  # 或者 pip install uv

查看目前的 Shell：

  echo $SHELL

然后将 uv 加到 PATH 中，根据 echo $SHELL 的输出选择对应的命令执行：

sh, bash, zsh：

    source $HOME/.local/bin/env

fish

    source $HOME/.local/bin/env.fish

Windows：

  powershell -c "irm https://astral.sh/uv/install.ps1 | more"
  # 或者 pip install uv

配置国内镜像源（可选，建议）

```bash

安装清单

基础环境：

python 3.11.10
torch 2.5.1 + cuda 11.8 + cudnn 9

Apt 安装：

wget、curl：命令行下载工具
vim、nano：文本编辑器
git：版本控制工具
git-lfs：Git LFS（大文件存储）
zip、unzip：文件压缩和解压工具
htop：系统监控工具
tmux、screen：会话管理工具
build-essential：编译工具（如 gcc、g++）
iputils-ping、iproute2、net-tools：网络工具（提供 ping、ip、ifconfig、netstat 等命令）
ssh：远程连接工具
rsync：文件同步工具
tree：显示文件和目录树
lsof：查看当前系统打开的文件
aria2：多线程下载工具
libssl-dev：OpenSSL 开发库

pip 安装：

jupyter notebook、jupyter lab：交互式开发环境
virtualenv：Python 虚拟环境管理工具，可以直接用 conda
tensorboard：深度学习训练可视化工具
ipywidgets：Jupyter 小部件库，用以正确显示进度条

插件：

zsh-autosuggestions：命令自动补全
zsh-syntax-highlighting：语法高亮
z：快速跳转目录

</details>

dl（Deep Learning）版本在 base 基础上，额外安装了深度学习可能用到的基础工具和库：

Apt 安装：

ffmpeg：音视频处理工具
libgl1-mesa-glx：图形库依赖（解决一些深度学习框架图形相关问题）

pip 安装：

数据科学库：
numpy、scipy：数值计算和科学计算
pandas：数据分析
matplotlib、seaborn：数据可视化
scikit-learn：机器学习工具
深度学习框架：
tensorflow：另一种流行的深度学习框架
tf-keras：Keras 接口的 TensorFlow 实现
NLP 相关库：
transformers、datasets：Hugging Face 提供的 NLP 工具
nltk、spacy：自然语言处理工具

如果需要额外的库，可以通过以下命令手动安装：

pip install --timeout 120 <替换成库名>

这里 --timeout 120 设置了 120 秒的超时时间，确保在网络不佳的情况下仍然有足够的时间进行安装。如果不进行设置，在国内的环境下可能会遇到安装包因下载超时而失败的情况。

</details>

注意，所有镜像都不会提前拉取仓库。

安装并启动 Jupyter Lab

jupyter lab --ip=0.0.0.0 --port=8888 --no-browser --allow-root

对于图形化界面，Windows/Linux 摁住 Ctrl，mac 按住 Command，然后点击链接可以直接跳转。

</details>

---

感谢你的STAR🌟，希望这一切对你有所帮助。

DeepSeek 使用手册

这部分内容将直接由之前的文章（导论部分）重组得来，故存在重复，此模块将暂时专注于 DeepSeek API 的使用，是 OpenAI SDK 相关的通用知识，也可以作为导论 API 部分的拓展。 DeepSeek API【共享】

Guide	Tag	Describe	File	Online
[DeepSeek API 的获取与对话示例](./Guide/DeepSeek%20API%20的获取与对话示例.md)	API	获取 DeepSeek API 的 N 种方法及其单轮对话样例：<br />- DeepSeek 官方<br />- 硅基流动<br />- 阿里云百炼<br />- 百度智能云<br />- 字节火山引擎	[Code](./Demos/deepseek-api-guide-1.ipynb)	[Kaggle](https://www.kaggle.com/code/aidemos/deepseek-api-guide-1)<br />[Colab](https://colab.research.google.com/drive/1rdBEJT_oOxaScm3_10epoHX_TdbSm1Ty?usp=sharing)
[DeepSeek 联网满血版使用指南](./Guide/DeepSeek%20联网满血版使用指南.md)	API	通过 API 绕开 DeepSeek 网页对话的卡顿，提供两种配置方案：<br />- Cherry Studio【推荐】<br />- Chatbox
[DeepSeek API 输出解析 - OpenAI SDK](./Guide/DeepSeek%20API%20输出解析%20-%20OpenAI%20SDK.md)	API	关于 OpenAI SDK 的通用知识，以 DeepSeek 聊天/推理模型为例进行演示：<br />- 认识 API 的返回字段<br />- 打印模型回复和每次对话的用量信息<br />	[Code](./Demos/deepseek-api-guide-2.ipynb)	[Kaggle](https://www.kaggle.com/code/aidemos/deepseek-api-guide-2)<br />[Colab](https://colab.research.google.com/drive/1WT0jpeIzWewoN5cT12Uwi92d5_tNff2J?usp=sharing)
└─[流式输出解析](./Guide/DeepSeek%20API%20流式输出解析%20-%20OpenAI%20SDK.md)	API	API 解析 - 流式输出篇<br />- 认识 chunk 的结构<br />- 处理各平台聊天/推理模型的流式输出	[Code](./Demos/deepseek-api-guide-3.ipynb)	[Kaggle](https://www.kaggle.com/code/aidemos/deepseek-api-guide-3)<br />[Colab](https://colab.research.google.com/drive/1Hfm7qU75GSvU8cO6RL108ZcmwaugXemo?usp=sharing)
[DeepSeek API 多轮对话 - OpenAI SDK](./Guide/DeepSeek%20API%20多轮对话%20-%20OpenAI%20SDK.md)	API	DeepSeek API 的多轮对话示例 - 非流式输出篇：<br />- 认识单轮对话和多轮对话时 `messages` 的差异<br />- 尝试封装对话类	[Code](./Demos/deepseek-api-guide-4.ipynb)	[Kaggle](https://www.kaggle.com/code/aidemos/deepseek-api-guide-4)<br />[Colab](https://colab.research.google.com/drive/11REpPevN4bSL8yeJzQs7LAiV2cm9lUmh?usp=sharing)
└─[统一模型对话逻辑与流式输出](./Guide/DeepSeek%20API%20统一模型对话逻辑与流式输出.md)	API	- 统一聊天模型和推理模型对话类<br />- 引入流式输出处理<br /><br />【代码文件】<br />- 使用 `APIConfigManager` 进行各平台配置，不再分散逻辑	[Code](./Demos/deepseek-api-guide-5.ipynb)	[Kaggle](https://www.kaggle.com/code/aidemos/deepseek-api-guide-5)<br />[Colab](https://colab.research.google.com/drive/14u47q-lGfH7l1ehkBuTU0kgIsNarap9J?usp=sharing)

---

使用 Jupyter-Lab

执行下面的命令：

uv run jupyter-lab

[!note] 如果在 AutoDL 租服务器运行的话，建议先注册内核，方便切换版本：
> UV_DIR=$(dirname $(which uv)) uv run python -m ipykernel install --user --name=ai --display-name="ai" --env PATH "$UV_DIR:$PATH"
> 
注册后可以在左上角内核->更改内核：

可以通过弹出的链接进行访问，一般位于 8888 端口。对于图形化界面，Windows/Linux 按住 Ctrl，Mac 按住 Command，然后点击链接可以直接跳转。至此，你将获得项目的全貌：

</details>

<details> <summary> <h2> Docker 快速部署 </h2> </summary>

没有安装 Docker 的同学可以阅读文章《使用 Docker 快速配置深度学习环境（Linux）》，建议初学者阅读《Docker 基础命令介绍和常见报错解决》。

创建并运行容器（使用主机网络）

此模式下，容器会直接使用主机的网络配置，所有端口都等同于主机的端口，无需单独映射。如果只需映射指定端口，将 --network host 替换为 -p port:port。

docker run --gpus all -it --name ai --network host hoperj/quickstart:dl-torch2.5.1-cuda11.8-cudnn9-devel /bin/zsh

设置代理

对于需要使用代理的同学，增加 -e 来设置环境变量，也可以参考拓展文章a：

假设代理的 HTTP/HTTPS 端口号为 7890， SOCKS5 为 7891：

-e http_proxy=http://127.0.0.1:7890
-e https_proxy=http://127.0.0.1:7890
-e all_proxy=socks5://127.0.0.1:7891

融入到之前的命令中：

docker run --gpus all -it \
  --name ai \
  --network host \
  -e http_proxy=http://127.0.0.1:7890 \
  -e https_proxy=http://127.0.0.1:7890 \
  -e all_proxy=socks5://127.0.0.1:7891 \
  hoperj/quickstart:dl-torch2.5.1-cuda11.8-cudnn9-devel \
  /bin/zsh

[!tip] 常用操作提前看： - 启动容器：docker start <容器名> - 运行容器：docker exec -it <容器名> /bin/zsh - 容器内退出：Ctrl + D 或 exit。 - 停止容器：docker stop <容器名> - 删除容器：docker rm <容器名>