边缘多设备协同LLM推理开源软件
AILLM边缘计算
⭐ 191 · Python
LeanKG是一款开源的MCP工具,帮助开发者减少Token的消耗,提高编码效率。它基于Rust语言开发,提供了一个高效的MCP解决方案。
mcpantigravityclaude-code
⭐ 190 · Rust
MCP工具
mcpai-agentsai-assistant
⭐ 188 · TypeScript
⚙️
jido_ai Agent工作流
Agent工作流
7.5
集成LLM编排和推理策略
AI工作流Elixir
⭐ 188 · Elixir
🛠
开源AI工具:Universal LLM API client
AI工具
7.5
AI工具
installableanthropicapi-client
⭐ 185 · Rust
MCP工具
ai-agentscoding-agentscontext-engineering
⭐ 185 · Swift
The leading, most token-efficient MCP server for documentation exploration and r。
mcpclaudeclaude-code
⭐ 183 · Python
Agent工作流
AIUnityComfyUI
⭐ 183 · C#
MCP工具
ai-agentscheckpointsdurable-execution
⭐ 180 · Python
AI工具
欧洲评估框架leaderboard
⭐ 178 · Python
MCP工具
mcprmodel-context-protocol
⭐ 178 · R
🔌
pgedge-postgres-mcp MCP工具
MCP工具
7.5
MCP工具
aillmmcp
⭐ 171 · Go
生成综合wiki文档
clideepwikidocumentation
⭐ 167 · Python
🛠
Blendsql:融合SQL和本地语言模型的查询语言
AI工具
7.5
Blendsql是一款开源AI工具,支持将SQL和本地语言模型融合在一起,适用于结构化和非结构化数据的处理。它提供了一个灵活的查询语言,能够满足复杂的数据分析需求。Blendsql的使用场景包括数据整合、信息提取和智能问答等。通过Blendsql,用户可以轻松地实现数据的融合和分析,提高工作效率和数据质量。
installableconstrained-decodingllm
⭐ 167 · Python
统一代理工作空间
agentharnessllm
⭐ 165 · TypeScript
🔌
Google Workspace MCP
MCP工具
7.5
MCP工具
aigoogle-workspacemcp
⭐ 161 · TypeScript
高性能、稳定、模型无关的GenAI工具
genaillmlodash
⭐ 160 · Ruby
gproxy是基于Rust的多通道LLM代理,支持OpenAI/Claude/Ge等,提供高效的AI服务
installableclaudegemini
⭐ 156 · Rust
MCP工具
agentllmtypescript
⭐ 155 · TypeScript
🛠
开源AI工具:Local LLM Testing & Benchmarking for Apple Silicon
AI工具
7.5
本项目提供了一个开源的AI工具,用于在Apple Silicon设备上测试和benchmarkingLLM模型。它支持GPU加速和 inference功能,适合开发者和研究人员使用。
installableapple-siliconbenchmarking
⭐ 153 · Swift