webclaw MCP工具 是 AI Skill Hub 本期精选MCP工具之一。已获得 1.2k 颗 GitHub Star,综合评分 8.5 分,整体质量较高。我们强烈推荐将其纳入你的 AI 工具库,帮助提升工作效率。
高性能本地网页内容提取工具,专为LLM优化。支持网页爬取、内容提取、结构化解析,采用Rust开发确保速度和安全。适合AI应用开发者、数据爬虫工程师和智能体框架集成使用。
webclaw MCP工具 是一款遵循 MCP(Model Context Protocol)标准协议的 AI 工具扩展。通过 MCP 协议,它可以让 Claude、Cursor 等主流 AI 客户端直接访问和操作外部工具、数据源和服务,实现 AI 能力的无缝扩展。无论是文件操作、数据库查询还是 API 调用,都可以通过自然语言在 AI 对话中直接触发,极大提升生产效率。
高性能本地网页内容提取工具,专为LLM优化。支持网页爬取、内容提取、结构化解析,采用Rust开发确保速度和安全。适合AI应用开发者、数据爬虫工程师和智能体框架集成使用。
webclaw MCP工具 是一款遵循 MCP(Model Context Protocol)标准协议的 AI 工具扩展。通过 MCP 协议,它可以让 Claude、Cursor 等主流 AI 客户端直接访问和操作外部工具、数据源和服务,实现 AI 能力的无缝扩展。无论是文件操作、数据库查询还是 API 调用,都可以通过自然语言在 AI 对话中直接触发,极大提升生产效率。
# 方式一:通过 Claude Code CLI 一键安装
claude skill install https://github.com/0xMassi/webclaw
# 方式二:手动配置 claude_desktop_config.json
{
"mcpServers": {
"webclaw-mcp--": {
"command": "npx",
"args": ["-y", "webclaw"]
}
}
}
# 配置文件位置
# macOS: ~/Library/Application Support/Claude/claude_desktop_config.json
# Windows: %APPDATA%/Claude/claude_desktop_config.json
# 安装后在 Claude 对话中直接使用 # 示例: 用户: 请帮我用 webclaw MCP工具 执行以下任务... Claude: [自动调用 webclaw MCP工具 MCP 工具处理请求] # 查看可用工具列表 # 在 Claude 中输入:"列出所有可用的 MCP 工具"
// claude_desktop_config.json 配置示例
{
"mcpServers": {
"webclaw_mcp__": {
"command": "npx",
"args": ["-y", "webclaw"],
"env": {
// "API_KEY": "your-api-key-here"
}
}
}
}
// 保存后重启 Claude Desktop 生效
<p align="center"> <a href="https://webclaw.io"> <img src=".github/banner.png" alt="webclaw" width="760" /> </a> </p>
<p align="center"> <strong>Turn websites into clean markdown, JSON, and LLM-ready context.</strong><br/> <sub>CLI, MCP server, REST API, and SDKs for AI agents and RAG pipelines.</sub> </p>
<p align="center"> <a href="https://github.com/0xMassi/webclaw/stargazers"><img src="https://shieldcn.dev/github/stars/0xMassi/webclaw.svg?variant=branded&logo=github" alt="Stars" /></a> <a href="https://github.com/0xMassi/webclaw/releases"><img src="https://shieldcn.dev/github/tag/0xMassi/webclaw.svg?variant=branded&logo=rust" alt="Version" /></a> <a href="https://github.com/0xMassi/webclaw/blob/main/LICENSE"><img src="https://shieldcn.dev/github/license/0xMassi/webclaw.svg?variant=branded" alt="License" /></a> <a href="https://www.npmjs.com/package/create-webclaw"><img src="https://shieldcn.dev/npm/dt/create-webclaw.svg?variant=branded" alt="npm installs" /></a> </p>
<p align="center"> <a href="https://discord.gg/KDfd48EpnW"><img src="https://shieldcn.dev/badge/Discord-Join.svg?variant=branded&logo=discord" alt="Discord" /></a> <a href="https://x.com/webclaw_io"><img src="https://shieldcn.dev/badge/Follow-@webclaw__io.svg?variant=branded&logo=x" alt="X / Twitter" /></a> <a href="https://webclaw.io"><img src="https://shieldcn.dev/badge/Hosted-webclaw.io.svg?variant=branded&logo=safari" alt="Hosted webclaw" /></a> <a href="https://webclaw.io/docs"><img src="https://shieldcn.dev/badge/Docs-Read.svg?variant=branded&logo=readthedocs" alt="Docs" /></a> </p>
<p align="center"> <a href="https://trendshift.io/repositories/24218?utm_source=trendshift-badge&utm_medium=badge&utm_campaign=badge-trendshift-24218" target="_blank" rel="noopener noreferrer"><img src="https://trendshift.io/api/badge/trendshift/repositories/24218/daily?language=Rust" alt="0xMassi/webclaw | Trendshift" width="250" height="55"/></a> </p>
<p align="center"> <img src="assets/demo.gif" alt="webclaw extracting clean markdown from a page" width="760" /> </p>
---
Most web scraping tools give your agent one of two bad outputs:
webclaw.io is the hosted web extraction API for webclaw. This repo contains the open-source CLI, MCP server, extraction engine, and self-hostable server.
webclaw turns a URL into clean content your tools can actually use.
webclaw https://example.com --format markdown
```md
The fastest way to connect webclaw to Claude Code, Claude Desktop, Cursor, Windsurf, OpenCode, Codex CLI, and other MCP-compatible tools:
npx create-webclaw
The installer detects supported clients and configures the MCP server for you.
docker run --rm ghcr.io/0xmassi/webclaw https://example.com
| Use case | Example |
|---|---|
| AI agent web access | Give Claude, Cursor, or another MCP client clean page context |
| RAG ingestion | Crawl docs, help centers, blogs, and knowledge bases |
| Competitor monitoring | Track pricing pages, changelogs, docs, and product pages |
| Structured extraction | Turn messy pages into typed JSON for automations |
| Research workflows | Search, scrape, summarize, and cite multiple sources |
| Brand intelligence | Extract logos, colors, fonts, and social metadata |
This domain is for use in illustrative examples in documents.
You may use this domain in literature without prior coordination or asking for permission. ```
Use it from the terminal, wire it into Claude/Cursor through MCP, call the hosted API from your app, or self-host the OSS server.
---
| Variable | Description |
|---|---|
WEBCLAW_API_KEY | Hosted API key |
OLLAMA_HOST | Ollama URL for local LLM features |
OPENAI_API_KEY | OpenAI-compatible LLM provider key |
OPENAI_BASE_URL | OpenAI-compatible base URL |
ANTHROPIC_API_KEY | Anthropic-compatible LLM provider key |
ANTHROPIC_BASE_URL | Anthropic-compatible base URL |
ORCAROUTER_API_KEY | OrcaRouter LLM provider key |
ORCAROUTER_BASE_URL | OrcaRouter base URL (defaults to https://api.orcarouter.ai/v1) |
WEBCLAW_PROXY | Single proxy URL |
WEBCLAW_PROXY_FILE | Proxy pool file |
---
npm install @webclaw/sdk
pip install webclaw
go get github.com/0xMassi/webclaw-go
<details> <summary>TypeScript</summary>
import { Webclaw } from "@webclaw/sdk";
const client = new Webclaw({ apiKey: process.env.WEBCLAW_API_KEY! });
const page = await client.scrape({
url: "https://example.com",
formats: ["markdown"],
only_main_content: true,
});
console.log(page.markdown);
</details>
<details> <summary>Python</summary>
from webclaw import Webclaw
client = Webclaw(api_key="wc_your_key")
page = client.scrape(
"https://example.com",
formats=["markdown"],
only_main_content=True,
)
print(page.markdown)
</details>
<details> <summary>cURL</summary>
curl -X POST https://api.webclaw.io/v1/scrape \
-H "Authorization: Bearer $WEBCLAW_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"url": "https://example.com",
"formats": ["markdown"],
"only_main_content": true
}'
</details>
---
Third-party plugins that integrate webclaw with AI agent platforms:
| Plugin | Platform | What it does |
|---|---|---|
| [openclaw-webclaw](https://github.com/jal-co/openclaw-webclaw) | [OpenClaw](https://openclaw.ai) | Native webclaw v1 API plugin with 9 tools: scrape, search, crawl, extract, summarize, diff, map, batch, brand |
| [hermes-webclaw](https://github.com/jal-co/hermes-webclaw) | [Hermes Agent](https://github.com/NousResearch/hermes-agent) | Web search provider and 9 dedicated tools for the full v1 API surface. Install with hermes plugins install jal-co/hermes-webclaw |
Built a webclaw integration? Open a PR to add it here.
---
webclaw https://example.com/pricing --format json > pricing-old.json
webclaw https://example.com/pricing --diff-with pricing-old.json
---
webclaw 是一个强大的网页解析工具,旨在将各类网站内容高效转化为干净的 Markdown、JSON 以及专为 LLM 优化的上下文数据。它不仅提供 CLI 命令行工具,还支持作为 MCP server、REST API 以及多种语言的 SDK 使用,能够完美融入 AI Agent 工作流和 RAG(检索增强生成)流水线中,是构建智能化网页数据处理能力的理想选择。
webclaw 能够将复杂的 HTML 页面转换为结构化的 Markdown 或 JSON 格式,使其成为 LLM 易于理解的上下文。通过支持 MCP 协议,它可以无缝接入各类 AI 开发工具。此外,它还提供了兼容 Firecrawl 的 API 接口,并支持通过代理(如 ColdProxy)进行爬取,以及针对 Cloudflare 等防护机制的诊断功能,满足从简单抓取到复杂 RAG 应用的全场景需求。
您可以根据使用场景选择多种安装方式:对于 AI Agent 用户,推荐使用 `npx create-webclaw` 快速配置 Claude Code、Claude Desktop、Cursor、Windsurf 等 MCP 兼容工具;对于容器化部署,可以直接使用 Docker 运行 `ghcr.io/0xmassi/webclaw`;开发者也可以通过 npm、pip 或 Go get 安装相应的 SDK 进行集成。
webclaw 的使用非常灵活:您可以通过终端命令行直接操作,也可以通过 MCP 协议将其接入 Claude 或 Cursor 等 AI 编辑器中。如果您正在开发应用程序,可以直接调用托管的 API,或者通过自托管的 OSS 服务端进行大规模数据处理。项目文档中还提供了从 HTML 转 Markdown 用于 RAG、结合代理进行爬取等多种实战 Workflow 示例。
项目支持通过环境变量进行灵活配置。您可以设置 `WEBCLAW_API_KEY` 来使用托管 API,或者通过 `OLLAMA_HOST`、`OPENAI_API_KEY`、`ANTHROPIC_API_KEY` 及其对应的 `BASE_URL` 来配置本地或兼容 OpenAI/Anthropic 标准的 LLM 服务,从而实现本地化或自定义的 AI 处理能力。
webclaw 为开发者提供了多语言 SDK 支持,包括 TypeScript (`@webclaw/sdk`)、Python (`pip install webclaw`) 以及 Go 语言。开发者可以通过简单的代码调用 `client.scrape` 方法,轻松实现网页抓取并获取结构化数据,将 webclaw 的强大解析能力集成到自己的业务逻辑中。
除了核心功能,webclaw 还拥有活跃的社区生态。通过 Community Plugins,您可以将 webclaw 与 OpenClaw 等 AI Agent 平台进行深度集成。例如,使用 `openclaw-webclaw` 插件,可以在 OpenClaw 平台中直接调用包含 scrape、search、crawl、extract、summarize 等 9 种工具的 native API,实现高度自动化的网页智能交互。
高质量开源工具,Rust实现保证性能安全,MCP协议集成便捷,1.2k Star证明社区认可度高。适合专业AI开发者使用。
该工具使用 AGPL-3.0 协议,商用场景请仔细阅读协议条款,必要时咨询法律意见。
AI Skill Hub 为第三方内容聚合平台,本页面信息基于公开数据整理,不对工具功能和质量作任何法律背书。
建议在沙箱或测试环境中充分验证后,再部署至生产环境,并做好必要的安全评估。
⚠️ AGPL 3.0 — 最严格的 Copyleft,网络服务端使用也需开源,SaaS 使用受限。
经综合评估,webclaw MCP工具 在MCP工具赛道中表现稳健,质量优秀。如果你已有明确的使用需求,可以直接上手体验;如果还在评估阶段,建议对比同类工具后再做决策。
| 原始名称 | webclaw |
| 原始描述 | 开源MCP工具:Fast, local-first web content extraction for LLMs. Scrape, crawl, extract struct。⭐1.2k · Rust |
| Topics | 网页爬取内容提取LLM工具Rust开发MCP协议本地优先数据结构化 |
| GitHub | https://github.com/0xMassi/webclaw |
| License | AGPL-3.0 |
| 语言 | Rust |
收录时间:2026-05-16 · 更新时间:2026-05-19 · License:AGPL-3.0 · AI Skill Hub 不对第三方内容的准确性作法律背书。
选择 Agent 类型,复制安装指令后粘贴到对应客户端