CacheRoute是开源AI工具,用于实现灵活的LLM调度方案,提高AI模型的性能和效率。
installableknowledge-injectionkvcache-reuse
⭐ 30 · Python
hxinfer是基于C++的高性能LLM推理框架,提供高效的推理能力和灵活的定制选项,适合于各种AI应用场景。
C++LLM推理框架
⭐ 30 · C++
AI工具
gemma-3jaxllm
⭐ 30 · Jupyter Notebook
当前帮学习常用器为常用学习常用器的一个安装器。当前帮学习常用器很到一个安装器的一个安装器。
installablegenaillm
⭐ 30 · TypeScript
轻量网关,给AI加长期记忆,适用于任何LLM,开源工具,支持OpenAI兼容
installableaichatbot
⭐ 30 · Python
AI工具
chatgpt-alternativellmlocal-llm
⭐ 30 · TypeScript
简例平学机器为简例的一个平学机器,给平学机器一个简例的平学机器。
installableaii18n
⭐ 30 · Python
AI工具
aiprivacysmart home
⭐ 30 · Python
AI工具
aifreelensgenai
⭐ 30 · TypeScript
MiniMind源码精读和大模型技术体系中文学习笔记,涵盖预训练、SFT、DPO、PPO和GRPO等技术,帮助开发者快速掌握深度学习知识和实践技能。
deep-learningdpofine-tuning
⭐ 30 · HTML
离线、隐私、安全、免费开源的AI语音工具
AI语音离线
⭐ 29 · Shell
ChatSnack是开源AI工具,简化了与OpenAI Chat的快速开发过程,提供了易用的Python库,极大地提高了开发效率。
chatgptdeveloper-productivitygpt4
⭐ 29 · Python
使用LLM评估和排名列表
aijudge-systemllm
⭐ 29 · Rust
AI工具
AILLM路由
⭐ 29 · TypeScript
🛠
Route Pi LLM providers through Tailscale Aperture
AI工具
7.5
Route Pi LLM providers through Tailscale Aperture,提供AI模型的路由和管理功能。
typescript
⭐ 29 · TypeScript
AI工具
AILLMTEE
⭐ 28 · Go
🛠
开源AI工具:解决经典LeetCode问题
AI工具
7.5
AI工具
cppdockerjava
⭐ 28 · Svelte
Anonymization proxy between your local environment and LLM providers,保护您的隐私和安全。
installablepython
⭐ 28 · Python
AI工具
AI聊天框架多供应商
⭐ 28 · TypeScript
KnoLo Core是一款本地化知识库引擎,适合小型语言模型。突出其本地化、可安装、确定性搜索等特点,值得关注。
edge-aiedge-computingknolo
⭐ 28 · TypeScript