RAGEve是开源的本地AI工具,集成了Ollama、Qdrant、Redis和MinIO等技术,提供了一个无云、无API key的RAG平台,适合于开发和部署本地AI应用。它支持本地安装和使用,方便用户快速构建和测试AI模型。
installableaichatbot
⭐ 15 · Python
Orvion 是一款开源 AI 工具,提供多个 LLM 网关,兼容 OpenAI / Anthropic / Gemini 协议,内置 WebUI 管理与监控功能,方便用户管理和使用。
GoOpenAIAnthropic
⭐ 15 · Go
KV缓存压缩工具,通过E8晶格q实现10-33倍压缩,适用于大规模LLM模型
installablecompressione8-lattice
⭐ 15 · Python
统一模型路由、令牌/RBAC访问控制的AI API网关和运营平台
aigatewayllm
⭐ 15 · Rust
优化LLM代码生成的函数式编程语言
code-generationcompilerfunctional-programming
⭐ 15 · Rust
Omni是开源的Elixir客户端,用于LLM API的流式文本生成,工具使用和Ollama等功能。它提供了一个通用的Elixir客户端,支持多个LLM API。
ElixirLLMOllama
⭐ 15 · Elixir
A Lisp with first-class LLM primitives, 实现在Rust中,提供AI开发者高效的开发环境
RustLispLLM
⭐ 15 · Rust
AI工具
tag1tag2tag3
⭐ 15 · Python
Llama C++ 库是一款开源的 C 库,用于在 Linux 和 Windows 上使用 llama.cpp,简化了 AI 工具的使用。
installableinferencellama-cpp
⭐ 15 · C++
高效LLM预训练工具,优化设计
llmoptimizerspretraining
⭐ 15 · Python
利用本地存储的大型语言模型实现图像字幕生成
AI图像处理自然语言处理
⭐ 15 · Python
AI工具
civil-techllmnextjs
⭐ 15 · TypeScript
本地AI助手,使用Silero VAD、Faster-Whisper和LM Stud,提供私有AI解决方案,提高隐私和安全性,适合企业和个人使用。
installableadvanced-speech-to-speech-local-ai-assistantai
⭐ 15 · Python
LLM AI集成PixInsight
astrophotographyjavascriptjson
⭐ 14 · JavaScript
基于本地LLM的隐私聚焦翻译工具,提供可安装浏览器扩展和Mullvad浏览器支持,突出隐私和安全性。
浏览器扩展隐私聚焦LLM翻译
⭐ 14 · JavaScript
🛠
开源AI工具:CLI-first, local LLM cost tracker
AI工具
7.5
CLI-first, local LLM cost tracker,适合独立开发者,帮助他们监控OpenAI成本,提高开发效率。
installableaicli
⭐ 14 · Python
AI工具
1-bit-llmavx512bitnet
⭐ 14 · Python
为AzerothCore魔兽世界私服框架集成大语言模型,赋予玩家机器人角色AI能力。支持自然语言交互和智能化角色扮演,适合魔兽世界私服开发者和角色扮演游戏爱好者打造沉浸式游戏体验。
游戏AILLM集成角色扮演
⭐ 14 · C++
AI工具
RAG多模态AI
⭐ 14 · Python
AI工具
AILLM评估
⭐ 14 · Python