高性能LLM和VLM推理部署工具包，基于Paddle深度学习框架。支持ERNIE等大模型快速部署，提供优化的推理性能和易用的部署方案。适合开发者、研究人员和企业级应用场景。
LLM推理模型部署高性能推理
⭐ 3.7k · Python
Emacs下的LLM客户端，支持ChatGPT等
EmacsLLMChatGPT
⭐ 3.4k · Emacs Lisp
AI工具
分布式推理KubernetesGPU加速
⭐ 3.2k · Shell
🛠
TTS-WebUI AI技能包
AI工具
🔥 热门
8.0
TTS-WebUI是一个集成多种TTS引擎的WebUI，支持ACE-Step、OmniVoice、Kimi Audio等多种TTS引擎，提供了一个方便的WebUI接口，用户可以轻松地使用这些TTS引擎进行语音合成。该项目的价值在于它提供了一个统一的接口，方便用户使用多种TTS引擎，提高了语音合成的灵活性和可用性。
TTSWebUIGradio
⭐ 3.1k · TypeScript
从GitHub仓库创建网站或博客
github-pagespages网站建设
⭐ 3.1k
高效大型模型评估框架
llmvlmai
⭐ 2.9k · Python
AI工具
cudacuda-kernelsdflash
⭐ 2.6k · C++
高性能、可扩展的Jax语言模型
LLMJaxPython
⭐ 2.3k · Python
AI 辅助代码/文本自动补全
VimLLM代码补全
⭐ 2.0k · Vim Script
AI品牌Logo图标库，支持React和React Native
aiai-brandsai-icons
⭐ 2.0k · TypeScript
利用AI翻译全书和文档，支持多种格式
AI翻译书籍
⭐ 1.8k · Python
AI工具
音乐播放列表Docker
⭐ 1.8k · Python
企业级自托管数据访问平台，为任何数据源提供安全的API接入。支持角色权限控制、与本地LLM集成，适合需要统一API管理和数据治理的企业和开发者。
API网关数据治理企业集成
⭐ 1.8k · Shell
统一管理生成式AI服务
aiapi-gatewaycncf
⭐ 1.8k · Go
AI工具
autoscalercloudruncuda
⭐ 1.7k · Go
基于Dify的开源AI应用搭建平台，提供积木式拖拽界面，帮助企业和个人快速构建智能体、客服、论文助手等AI应用，无需编码基础，适合企业和创意工作者。
AI应用搭建低代码平台智能体
⭐ 1.6k · TypeScript
离线科学写作工作空间，支持LaTeX和Python
AIacademicdesktop-app
⭐ 1.6k · TypeScript
ComfyUI的Docker镜像与启动脚本
dockercomfyuistable-diffusion
⭐ 1.5k · Dockerfile
高效的GPU通信库，支持collectives和P2P
aiallreduceamd
⭐ 1.4k · C++
AI工具
AILLMSwift
⭐ 1.3k · Swift