ComfyUI-omni-llm
ComfyUI-omni-llm 是 AI Skill Hub 本期精选AI工具之一。综合评分 7.5 分，整体质量较高。我们推荐使用将其纳入你的 AI 工具库，帮助提升工作效率。
**为什么要使用开源工具而非商业 SaaS？**
对于个人开发者和有隐私需求的用户，本地部署的开源工具意味着数据不离本机，不受第三方服务商的数据政策约束。同时，开源工具通常没有使用次数限制和月度费用，一次安装即可长期使用，对于高频使用场景的总拥有成本（TCO）远低于订阅制商业工具。
**安装与环境准备**
ComfyUI-omni-llm 依赖 Python 运行环境。建议通过 pyenv（Python）或 nvm（Node.js）管理 Python 版本，避免全局环境污染。对于新手用户，推荐先创建虚拟环境（python -m venv venv && source venv/bin/activate），再安装依赖，这样即使出现问题也可以随时删除虚拟环境重新开始，不影响系统稳定性。
**社区与维护**
GitHub Issue 和 Discussion 是获取帮助的最快渠道。在提问前建议先检查 Closed Issues（已关闭的问题），大多数常见问题都已有解答。遇到 Bug 时，提供 pip list 的输出、完整错误堆栈和最小可复现示例，能显著提高开发者响应速度。AI Skill Hub 将持续追踪 ComfyUI-omni-llm 的版本更新，及时通知重要功能变化。
ComfyUI-omni-llm 是一款基于 Python 开发的开源工具。作为 GitHub 开源项目，它拥有活跃的社区支持和持续的版本迭代，代码完全透明可审计，支持本地部署以保护数据隐私。无论是个人使用还是集成到企业工作流，都能提供稳定可靠的解决方案。
ComfyUI-omni-llm 是一款基于 Python 开发的开源工具。作为 GitHub 开源项目，它拥有活跃的社区支持和持续的版本迭代，代码完全透明可审计，支持本地部署以保护数据隐私。无论是个人使用还是集成到企业工作流，都能提供稳定可靠的解决方案。
- 开源免费，支持本地部署，数据完全自主可控
- 活跃的 GitHub 开源社区，持续迭代更新
- 提供详细文档和使用示例，新手友好
- 支持自定义配置，灵活适配不同使用环境
- 可作为基础组件集成进现有技术栈或进行二次开发
- 本地部署运行，保护数据隐私，满足合规要求
- 自定义集成到现有系统，扩展技术栈能力
- 作为开源基础组件进行商业化二次开发
# 方式一：pip 安装（推荐）
pip install comfyui-omni-llm
# 方式二：虚拟环境安装（推荐生产环境）
python -m venv .venv
source .venv/bin/activate # Windows: .venv\Scripts\activate
pip install comfyui-omni-llm
# 方式三：从源码安装（获取最新功能）
git clone https://github.com/Qo-qiao/ComfyUI-omni-llm
cd ComfyUI-omni-llm
pip install -e .
# 验证安装
python -c "import comfyui_omni_llm; print('安装成功')"
- 访问 GitHub 仓库页面
- 按照 README 文档完成依赖安装
- 根据系统环境完成初始化配置
- 参考官方示例或文档开始使用
- 遇到问题可在 GitHub Issues 中查找解答
# 命令行使用
comfyui-omni-llm --help
# 基本用法
comfyui-omni-llm input_file -o output_file
# Python 代码中调用
import comfyui_omni_llm
# 示例
result = comfyui_omni_llm.process("input")
print(result)
# comfyui-omni-llm 配置文件示例（config.yml） app: name: "comfyui-omni-llm" debug: false log_level: "INFO" # 运行时指定配置文件 comfyui-omni-llm --config config.yml # 或通过环境变量配置 export COMFYUI_OMNI_LLM_API_KEY="your-key" export COMFYUI_OMNI_LLM_OUTPUT_DIR="./output"
ComfyUI-omni-llm
Run LLM/VLM models natively in ComfyUI based on llama.cpp, supporting multimodal inference, visual language understanding, and full-stack audio processing capabilities.
Project Overview
ComfyUI-omni-llm is a comprehensive ComfyUI plugin, deeply refactored and enhanced based on ComfyUI-llama-cpp-vlm, focusing on providing localized and efficient multimodal AI inference capabilities. The plugin supports ASR speech recognition and TTS speech synthesis, and supports over 40 VLM models and 200+ LLM models.
Installation Instructions
If you are not familiar with installing dependencies, it is recommended to use the ComfyNexus Launcher. The launcher provides a more intuitive installation method, making it easier to view installed dependency files and resolve dependency conflicts.
1. Basic Installation
1. Extract dependency files from the plugin's site-packages folder: Download dependency package - Extract the dependency files from the plugin's site-packages folder to ComfyUI/custom_nodes/ComfyUI-omni-llm/site-packages directory - Directory reference format:
ComfyUI/custom_nodes/ComfyUI-omni-llm/site-packages/
├── qwen-tts
├── qwen_asr
├── transformers
├── ... other dependencies
# Run in ComfyUI root directory
pip install -r custom_nodes/ComfyUI-omni-llm/requirements.txt
3. Install llama-cpp-python (Required): - Download the latest version 0.3.35 manually from llama_cpp_python_wheels or directly download the zip package
Wheel Selection Guide: - Python Version Match: cp312 in the filename indicates Python 3.12, select the file matching your Python version - CUDA Version Match: cu128 in the filename indicates CUDA 12.8, select the file compatible with your CUDA version - OS Match: win_amd64 indicates Windows 64-bit system, ensure you select the file suitable for your operating system - Function Version: basic indicates basic version, full includes more features (such as OpenCL)
Installation Command: - Install using: pip install downloaded_filename.whl - Example: pip install llama_cpp_python-0.3.32+cu128.basic-cp312-cp312-win_amd64.whl
Version Selection Recommendations: - CUDA 12.8: Select cu128 version for best performance - CUDA 12.x: Select cu124 version for backward compatibility
Workflow Examples (Reference examples, please modify parameters according to actual situation)
Workflow Example Images
#### Text Generation 
#### Image Processing 
#### Video Processing 
#### Audio Processing 
Documentation (For reference only)
Please check Model Download Links Please check Node Parameter Guide
Recommended Companion Plugins
Welcome to try my new plugin, the prompt storage plugin ComfyUI-prompt-storage, which allows you to store important prompts for easy future use.
Workflow Files
- Audio Mode Workflow.json)
- Text or Image Mode Workflow.json)
- Video Mode Workflow.json)
该项目基于ComfyUI-llama-cpp_vlm进行了fork，提供了一个开源的AI工具，支持Python语言，目前有33个星星。虽然项目的描述和标签不完整，但它仍然是一个有价值的开源项目，值得关注和学习。
- 开源免费，支持本地部署，数据完全自主可控
- 活跃的 GitHub 开源社区，持续迭代更新
- 提供详细文档和使用示例，新手友好
- 支持自定义配置，灵活适配不同使用环境
- 可作为基础组件集成进现有技术栈或进行二次开发
- 本地部署运行，保护数据隐私，满足合规要求
- 自定义集成到现有系统，扩展技术栈能力
- 作为开源基础组件进行商业化二次开发
- +MIT 协议，可免费商用
- +完全开源免费，无授权费用
- +本地部署，数据完全自主可控
- +开发者社区支持，遇问题可查可问
- −安装和初始配置可能需要一定技术基础
- −功能完整性通常不如成熟商业产品
- −技术支持主要依赖开源社区，响应速度不稳定
AI Skill Hub 为第三方内容聚合平台，本页面信息基于公开数据整理，不对工具功能和质量作任何法律背书。
建议在沙箱或测试环境中充分验证后，再部署至生产环境，并做好必要的安全评估。
✅ MIT 协议 — 最宽松的开源协议之一，可自由商用、修改、分发，仅需保留版权声明。
经综合评估，ComfyUI-omni-llm 在AI工具赛道中表现稳健，质量良好。如果你已有明确的使用需求，可以直接上手体验；如果还在评估阶段，建议对比同类工具后再做决策。
| 原始名称 | ComfyUI-omni-llm |
| 原始描述 | 开源AI工具：forked from https://github.com/lihaoyun6/ComfyUI-llama-cpp_vlm。⭐33 · Python |
| GitHub | https://github.com/Qo-qiao/ComfyUI-omni-llm |
| License | MIT |
| 语言 | Python |
收录时间：2026-05-23 · 更新时间：2026-05-24 · License：MIT · AI Skill Hub 不对第三方内容的准确性作法律背书。