能力标签

🛠

AI工具

GGRun

基于 Go · 开源免费，本地部署，数据完全自主可控

英文名：ggrun

⭐ 239 Stars 🍴 12 Forks 💻 Go 📄 MIT 🏷 AI 8.0分

8.0AI 综合评分

ggufgolanginference-serverllama-cpp

📺 TG 频道

✦ AI Skill Hub 推荐

GGRun 是 AI Skill Hub 本期精选AI工具之一。综合评分 8.0 分，整体质量较高。我们强烈推荐将其纳入你的 AI 工具库，帮助提升工作效率。

📚 深度解析

GGRun 是一款基于 Go 的开源工具，在 GitHub 上收获 0k+ Star，是gguf、golang、inference-server、llama-cpp领域中的优质开源项目。开源工具的最大优势在于代码完全透明，你可以审计每一行代码的安全性，也可以根据自身需求进行二次开发和定制。

**为什么要使用开源工具而非商业 SaaS？**
对于个人开发者和有隐私需求的用户，本地部署的开源工具意味着数据不离本机，不受第三方服务商的数据政策约束。同时，开源工具通常没有使用次数限制和月度费用，一次安装即可长期使用，对于高频使用场景的总拥有成本（TCO）远低于订阅制商业工具。

**安装与环境准备**
GGRun 依赖 Go 运行环境。建议通过 pyenv（Python）或 nvm（Node.js）管理 Go 版本，避免全局环境污染。对于新手用户，推荐先创建虚拟环境（python -m venv venv && source venv/bin/activate），再安装依赖，这样即使出现问题也可以随时删除虚拟环境重新开始，不影响系统稳定性。

**社区与维护**
GitHub Issue 和 Discussion 是获取帮助的最快渠道。在提问前建议先检查 Closed Issues（已关闭的问题），大多数常见问题都已有解答。遇到 Bug 时，提供 pip list 的输出、完整错误堆栈和最小可复现示例，能显著提高开发者响应速度。AI Skill Hub 将持续追踪 GGRun 的版本更新，及时通知重要功能变化。

📋 工具概览

GGRun 是一款基于 Go 开发的开源工具，专注于 gguf、golang、inference-server 等核心功能。作为 GitHub 开源项目，它拥有活跃的社区支持和持续的版本迭代，代码完全透明可审计，支持本地部署以保护数据隐私。无论是个人使用还是集成到企业工作流，都能提供稳定可靠的解决方案。

GitHub Stars

⭐ 239

开发语言

支持平台

Windows / macOS / Linux（跨平台）

维护状态

轻量级项目，按需更新

开源协议

MIT

AI 综合评分

8.0 分

工具类型

AI工具

Forks

📖 中文文档

以下内容由 AI Skill Hub 根据项目信息自动整理，如需查看完整原始文档请访问底部「原始来源」。

📌 核心特色

开源免费，支持本地部署，数据完全自主可控
活跃的 GitHub 开源社区，持续迭代更新
提供详细文档和使用示例，新手友好
支持自定义配置，灵活适配不同使用环境
可作为基础组件集成进现有技术栈或进行二次开发

🎯 主要使用场景

本地部署运行，保护数据隐私，满足合规要求
自定义集成到现有系统，扩展技术栈能力
作为开源基础组件进行商业化二次开发

以下安装命令基于项目开发语言和类型自动生成，实际以官方 README 为准。

安装命令

# 方式一：go install（推荐）
go install github.com/raketenkater/ggrun@latest

# 方式二：从源码编译
git clone https://github.com/raketenkater/ggrun
cd ggrun
go build -o ggrun .

# 方式三：下载预编译二进制
# 访问 Releases 页面下载对应平台二进制文件
# https://github.com/raketenkater/ggrun/releases

📋 安装步骤说明

访问 GitHub 仓库页面
按照 README 文档完成依赖安装
根据系统环境完成初始化配置
参考官方示例或文档开始使用
遇到问题可在 GitHub Issues 中查找解答

以下用法示例由 AI Skill Hub 整理，涵盖最常见的使用场景。

常用命令 / 代码示例

# 查看帮助
ggrun --help

# 基本运行
ggrun [options] <input>

# 详细使用说明请查阅文档
# https://github.com/raketenkater/ggrun

以下配置示例基于典型使用场景生成，具体参数请参照官方文档调整。

配置示例

# ggrun 配置说明
# 查看配置选项
ggrun --config-example > config.yml

# 常见配置项
# output_dir: ./output
# log_level: info
# workers: 4

# 环境变量（覆盖配置文件）
export GGRUN_CONFIG="/path/to/config.yml"

📑 README 深度解析真实文档完整度 32/100 查看 GitHub 原文 →

以下内容由系统直接从 GitHub README 解析整理，保留代码块、表格与列表结构。

ggrun

ggrun is a small helper for llama.cpp. You point it at a GGUF and it figures out the flags, the multi-GPU split, and the MoE expert placement so you don't have to. It's good at two things: making llama.cpp easier to run, and running big MoE models that wouldn't otherwise fit — by spreading them across your GPUs and system RAM.

I started it as a script for my own mismatched 3-GPU box, where hand-writing -ngl, --tensor-split, and -ot for every model and context size got old.

ggrun model.gguf                          # serve a local GGUF
ggrun unsloth/Qwen3.6-27B-GGUF --download # download a fitting quant, then serve
ggrun                                     # no arguments → interactive TUI

demo

Install

Linux / macOS:

curl -fsSL https://raw.githubusercontent.com/raketenkater/ggrun/main/setup.sh | bash

Windows (PowerShell):

iwr -useb https://raw.githubusercontent.com/raketenkater/ggrun/main/install.ps1 | iex

Prebuilt bundles install without compiling; Linux CUDA (ik_llama.cpp) builds from source for your GPU. Details in docs/install.md.

Usage

ggrun model.gguf --dry-run     # print the llama-server command without running it
ggrun model.gguf --ai-tune     # benchmark a few flag sets, cache the fastest
ggrun model.gguf --benchmark   # load, measure tok/s, exit
ggrun model.gguf --claude-code # serve + launch Claude Code wired to this model

Unknown flags pass straight through to llama-server. Full list in docs/usage.md.

Security: the OpenAI-compatible API is unauthenticated and binds to 127.0.0.1. To reach it from other machines, set --host 0.0.0.0 and put it behind a firewall.

🎯 aiskill88 AI 点评 A 级 2026-07-02

高性能AI模型推理工具，易于使用