纯C++23实现的Apple Silicon优化Llama推理引擎。专为MacBook/iPad Pro等苹果芯片设备设计,充分利用Metal GPU加速实现高效推理。适合追求极致性能和本地隐私的开发者和AI爱好者。
Apple芯片优化Llama推理GPU加速
⭐ 19 · C++
专业的PyTorch模型到NNEF格式转换工具,支持深度学习模型导出和跨平台推理部署。适合需要模型格式转换、模型优化和推理加速的AI工程师和研究人员使用。
模型转换PyTorchNNEF格式
⭐ 18 · Python
纯Rust实现的CPU推理引擎,专为LiquidAI的LFM2.5-8B模型优化。无需GPU依赖,支持本地离线推理,适合资源受限的开发者和隐私敏感场景部署。
本地推理CPU推理Rust实现
⭐ 16 · Rust
AI工具
API网关协议转换Claude集成
⭐ 15 · Go
AI工具
游戏AI强化学习LLM
⭐ 14 · Python
专业的心电图与自然语言多模态学习框架。集成深度学习技术,实现ECG信号与临床文本的联合训练与评估。适合医疗AI研究人员、生物信号处理开发者及临床决策支持系统开发团队使用。
心电图分析多模态学习生物信号处理
⭐ 14 · Python
一键式桌面应用,集成37家AI服务商(OpenAI、Anthropic等),提供统一的大模型接口管理。适合需要多模型切换、本地部署的开发者和AI应用用户。
LLM网关多模型集成桌面应用
⭐ 14 · Go
AI工具
LLM路由API转换故障转移
⭐ 13 · Rust
基于大语言模型的科学PDF数据提取工具,专注于化学和化工领域。能自动从文献中提取结构化数据,支持Excel导出,适合化学研究人员、工程师进行文献综述和数据整理。
PDF提取化学数据LLM
⭐ 13 · Python
专为Claude Code、Gemini CLI、Cline等AI编程工具设计的Token消耗优化器。通过智能压缩和过滤,显著降低API调用成本,适合频繁使用AI编程助手的开发者和团队节省开支。
token优化成本控制Claude
⭐ 13 · Python
AI工具
AI网关多模型适配MCP协议
⭐ 12 · C#
AI工具
AI虚拟主播实时视觉个性引擎
⭐ 12 · Python
AI工具
代码分析安全扫描代码质量
⭐ 12 · Python
基于Eclipse IDE的开源AI助手插件,支持ChatGPT、Claude等在线模型和本地离线模型,提供代码补全、代码解释、对话交互等功能。适合Java开发者在IDE内直接使用AI能力提升开发效率。
IDE插件AI助手代码补全
⭐ 11 · Java
轻量级单文件AI角色聊天应用,兼容SillyTavern格式,支持中文界面。提供前端聊天功能,适合AI爱好者、角色扮演爱好者和开发者快速部署个人AI助手。
AI聊天角色扮演开源工具
⭐ 11 · HTML
基于REPL的Julia编程AI副驾驶,集成Claude和OpenAI模型。为Julia开发者提供实时代码建议、调试协助和编程指导,提升开发效率和代码质量。适合Julia语言学习者和专业开发者。
Julia编程AI编程助手代码补全
⭐ 10 · Julia
macOS命令行工具,可将Beeper聊天应用的消息历史导出为本地JSONL格式文件。支持聊天记录备份、数据迁移和离线分析,适合需要管理多平台消息的用户和开发者。
聊天导出数据备份命令行工具
⭐ 10 · Swift
基于Google Gemini API的开源实时音视频流处理工具。支持音频、视频、屏幕内容的实时流传输,集成Flask框架,提供函数调用能力。适合需要构建实时AI交互应用的开发者。
实时流音视频处理Gemini API
⭐ 9 · Python
ModSleuth是一款开源AI工具,专门为LLM版本发布构建证据驱动的依赖关系图。通过分析公开数据,帮助开发者和研究人员理解大语言模型的依赖链路,适合AI工程师、模型维护者和依赖分析人员使用。
依赖分析LLM工具图谱构建
⭐ 9 · Python
命令行工具,直接在终端访问Garmin Connect数据,支持管道传输和脚本自动化。适合健身爱好者、骑行发烧友和开发者,可集成到工作流程中实现数据自动同步和分析。
CLI工具Garmin集成健身数据
⭐ 8 · Python