LLM服务识别
LLM服务识别 是 AI Skill Hub 本期精选AI工具之一。综合评分 7.5 分，整体质量较高。我们推荐使用将其纳入你的 AI 工具库，帮助提升工作效率。
📚 深度解析
**为什么要使用开源工具而非商业 SaaS？**
对于个人开发者和有隐私需求的用户，本地部署的开源工具意味着数据不离本机，不受第三方服务商的数据政策约束。同时，开源工具通常没有使用次数限制和月度费用，一次安装即可长期使用，对于高频使用场景的总拥有成本（TCO）远低于订阅制商业工具。
**安装与环境准备**
LLM服务识别 依赖 Go 运行环境。建议通过 pyenv（Python）或 nvm（Node.js）管理 Go 版本，避免全局环境污染。对于新手用户，推荐先创建虚拟环境（python -m venv venv && source venv/bin/activate），再安装依赖，这样即使出现问题也可以随时删除虚拟环境重新开始，不影响系统稳定性。
**社区与维护**
GitHub Issue 和 Discussion 是获取帮助的最快渠道。在提问前建议先检查 Closed Issues（已关闭的问题），大多数常见问题都已有解答。遇到 Bug 时，提供 pip list 的输出、完整错误堆栈和最小可复现示例，能显著提高开发者响应速度。AI Skill Hub 将持续追踪 LLM服务识别 的版本更新，及时通知重要功能变化。
📋 工具概览
将IP:Port转换为Ollama、vLLM、LiteLLM等LLM服务
LLM服务识别 是一款基于 Go 开发的开源工具，专注于 ai-security、attack-surface、capability 等核心功能。作为 GitHub 开源项目，它拥有活跃的社区支持和持续的版本迭代，代码完全透明可审计，支持本地部署以保护数据隐私。无论是个人使用还是集成到企业工作流，都能提供稳定可靠的解决方案。
📖 中文文档
将IP:Port转换为Ollama、vLLM、LiteLLM等LLM服务
LLM服务识别 是一款基于 Go 开发的开源工具，专注于 ai-security、attack-surface、capability 等核心功能。作为 GitHub 开源项目，它拥有活跃的社区支持和持续的版本迭代，代码完全透明可审计，支持本地部署以保护数据隐私。无论是个人使用还是集成到企业工作流，都能提供稳定可靠的解决方案。
- 开源免费，支持本地部署，数据完全自主可控
- 活跃的 GitHub 开源社区，持续迭代更新
- 提供详细文档和使用示例，新手友好
- 支持自定义配置，灵活适配不同使用环境
- 可作为基础组件集成进现有技术栈或进行二次开发
- 本地部署运行，保护数据隐私，满足合规要求
- 自定义集成到现有系统，扩展技术栈能力
- 作为开源基础组件进行商业化二次开发
# 方式一：go install（推荐） go install github.com/praetorian-inc/julius@latest # 方式二：从源码编译 git clone https://github.com/praetorian-inc/julius cd julius go build -o julius . # 方式三：下载预编译二进制 # 访问 Releases 页面下载对应平台二进制文件 # https://github.com/praetorian-inc/julius/releases
- 访问 GitHub 仓库页面
- 按照 README 文档完成依赖安装
- 根据系统环境完成初始化配置
- 参考官方示例或文档开始使用
- 遇到问题可在 GitHub Issues 中查找解答
# 查看帮助 julius --help # 基本运行 julius [options] <input> # 详细使用说明请查阅文档 # https://github.com/praetorian-inc/julius
# julius 配置说明 # 查看配置选项 julius --config-example > config.yml # 常见配置项 # output_dir: ./output # log_level: info # workers: 4 # 环境变量（覆盖配置文件） export JULIUS_CONFIG="/path/to/config.yml"
简介
<img width="1200" height="628" alt="Julius - Open source LLM service fingerprinting tool for security professionals. Identify Ollama, vLLM, LiteLLM and 17+ AI services." src="https://github.com/user-attachments/assets/54c4b17d-4f85-40a3-8b03-ba0b9630fa82" />
Features
| Feature | Description |
|---|---|
| **63 LLM Services** | Detects Ollama, vLLM, LiteLLM, LocalAI, Hugging Face TGI, AWS Bedrock, and 57 more |
| **Fast Scanning** | Concurrent probing with intelligent port-based prioritization |
| **Model Discovery** | Extracts available models from identified endpoints |
| **Specificity Scoring** | 1-100 scoring ranks results by most specific match (e.g., LiteLLM over generic OpenAI-compatible) |
| **Multiple Inputs** | Single target, file input, or stdin piping |
| **Flexible Output** | Table, JSON, or JSONL formats for easy integration |
| **Extensible** | Add new service detection via simple YAML probe files |
| **Offline Operation** | No cloud dependencies - runs entirely locally |
| **Single Binary** | Go-based tool compiles to one portable executable |
Installation
go install github.com/praetorian-inc/julius/cmd/julius@latestQuick Start
Basic Usage
julius probe https://target.example.comExample Output
+----------------------------+---------+-------------+-------------+--------+-------+
| TARGET | SERVICE | SPECIFICITY | CATEGORY | MODELS | ERROR |
+----------------------------+---------+-------------+-------------+--------+-------+
| https://target.example.com | ollama | 100 | self-hosted | | |
+----------------------------+---------+-------------+-------------+--------+-------+Usage
Advanced Options
```bash
Increase timeout for slow endpoints (default: 5 seconds)
julius probe -t 10 https://target.example.com
FAQ
Troubleshooting
简介：Julius 是一个开源的 LLM 服务指纹识别工具，用于安全专业人员识别 Ollama、vLLM、LiteLLM 和 17+ AI 服务。
功能：Julius 支持 63 个 LLM 服务的检测，包括 Ollama、vLLM、LiteLLM、LocalAI、Hugging Face TGI、AWS Bedrock 和 57 个其他服务。它还支持快速扫描、模型发现和特异性评分等功能。
安装：使用以下命令安装 Julius：go install github.com/praetorian-inc/julius/cmd/julius@latest
使用教程：基本使用方法如下：julius probe https://target.example.com
配置：Julius 支持通过命令行参数进行配置，例如增加超时时间（默认 5 秒）：julius probe -t 10 https://target.example.com
API：Julius 提供 API 接口用于增强超时时间等功能
FAQ：Julius FAQ 中包含了常见问题和解决方案
高效的LLM服务识别工具
- 构建多智能体协作系统的 Agent 开发者
- 构建企业知识库 / RAG 检索应用的团队
- 本地部署优先选 GGUF 量化模型，节省显存并保持响应速度
- 分块大小建议 256-512 tokens，向量库优选 pgvector 或 Qdrant
- Agent 任务先做 dry-run 验证工具调用链，再开启自主执行
- API key 直接提交到 git 仓库（请用 .env 并加入 .gitignore）
- embedding 模型与查询模型不一致导致检索失效
- 显存不足直接 OOM — 优先降低 context 或换更小的量化模型
- CLI：直接 npm install -g / pip install，命令行调用
- 本地部署：CPU 8GB 起，GPU 推荐 16GB+ 显存
- 云端托管：可放在 Vercel / Railway / Fly.io 等 PaaS 平台
⚡ 核心功能
- 开源免费，支持本地部署，数据完全自主可控
- 活跃的 GitHub 开源社区，持续迭代更新
- 提供详细文档和使用示例，新手友好
- 支持自定义配置，灵活适配不同使用环境
- 可作为基础组件集成进现有技术栈或进行二次开发
- 构建多智能体协作系统的 Agent 开发者
- 构建企业知识库 / RAG 检索应用的团队
- 本地部署优先选 GGUF 量化模型，节省显存并保持响应速度
- 分块大小建议 256-512 tokens，向量库优选 pgvector 或 Qdrant
- Agent 任务先做 dry-run 验证工具调用链，再开启自主执行
- API key 直接提交到 git 仓库（请用 .env 并加入 .gitignore）
- embedding 模型与查询模型不一致导致检索失效
- 显存不足直接 OOM — 优先降低 context 或换更小的量化模型
👥 适合人群
🎯 使用场景
- 本地部署运行，保护数据隐私，满足合规要求
- 自定义集成到现有系统，扩展技术栈能力
- 作为开源基础组件进行商业化二次开发
⚖️ 优点与不足
- +Apache-2.0 协议，可免费商用
- +完全开源免费，无授权费用
- +本地部署，数据完全自主可控
- +开发者社区支持，遇问题可查可问
- −安装和初始配置可能需要一定技术基础
- −功能完整性通常不如成熟商业产品
- −技术支持主要依赖开源社区，响应速度不稳定
AI Skill Hub 为第三方内容聚合平台，本页面信息基于公开数据整理，不对工具功能和质量作任何法律背书。
建议在沙箱或测试环境中充分验证后，再部署至生产环境，并做好必要的安全评估。
✅ Apache 2.0 — 宽松开源协议，可商用，需保留版权声明和 NOTICE 文件，含专利授权条款。
🔗 相关工具推荐
❓ 常见问题 FAQ
经综合评估，LLM服务识别 在AI工具赛道中表现稳健，质量良好。如果你已有明确的使用需求，可以直接上手体验；如果还在评估阶段，建议对比同类工具后再做决策。
| 原始名称 | julius |
| 原始描述 | 开源AI工具：Simple LLM service identification - translate IP:Port to Ollama, vLLM, LiteLLM, 。⭐68 · Go |
| Topics | ai-securityattack-surfacecapabilitygolangllm-evaluation |
| GitHub | https://github.com/praetorian-inc/julius |
| License | Apache-2.0 |
| 语言 | Go |
收录时间：2026-06-06 · 更新时间：2026-06-06 · License：Apache-2.0 · AI Skill Hub 不对第三方内容的准确性作法律背书。