快速结论
zlurp 是面向 AI agent 的付费网页抓取服务,核心是把公开 URL 转成 Markdown,并通过远程 API 或 Streamable HTTP MCP 工具调用。它不要求创建账户或 API Key,而是在每次请求时使用 x402 协议,通过 Base 主网的 USDC 钱包结算。截至 2026 年 7 月 21 日,可以从公开代码确认的主流程是静态 HTML 抓取:服务端直接 fetch 目标页面,再用 Mozilla Readability、Cheerio 和 Turndown 提取正文或完整页面。
官网对静态抓取标价 0.005 USDC/URL,这与 API 和付款中间件实现一致。官网也宣称 JavaScript 渲染为 0.015 USDC/URL,但当前公开 /scrape 实现没有调用浏览器或渲染器,js 参数未进入实际抓取逻辑,返回值还固定为 jsRendered: false;因此 0.015 USDC 的动态渲染能力只能视为未验证的产品声明,不能按已交付功能推荐。
核心功能
- 静态网页转 Markdown:接受 HTTP/HTTPS URL,抓取 HTML 后输出标题、Markdown、字数、字符数和抓取时间。
- 两种抽取模式:
article使用 Readability 提取正文,失败后回退到页面 body;full处理整个 body,并移除 script、style 和 noscript。 - 远程 MCP:官方文档提供
https://zlurp.ai/mcp,采用 Streamable HTTP,暴露免费估价probe_url和付费抓取scrape_url。 - REST API:
GET /probe返回费用估算,POST /scrape执行抓取,另有 OpenAPI 与 agent card 描述。 - x402 按次付款:请求收到 HTTP 402 付款要求后,由兼容客户端使用 Base USDC 支付并重试。
- Redis 缓存:抓取结果以 URL 与 mode 为键缓存一小时;命中缓存仍按标准价格收费。
- robots.txt 检查:代码在抓取前读取目标站 robots.txt,但网络错误、超时或非成功响应会默认放行,并非严格的“始终遵守”。
适合人群
zlurp 适合已经具备 Base 钱包、理解 x402,并且只需偶发读取公开静态页面的 MCP/agent 开发者。它免去了账号和长期套餐,单次标价也容易估算,适合实验性工作流或低频抓取。
它不适合处理登录态页面、复杂 SPA、敏感内网页面、需要法律合规证明的批量采集,或无法接受链上付款和不可退款交易的团队。需要可靠 JavaScript 渲染、代理池、浏览器动作、地域选择、SLA 或正式数据处理协议时,应选择成熟抓取平台。
使用场景
- 让 MCP 客户端读取一篇公开博客并转为 Markdown,供摘要或问答使用。
- 在调用前使用
probe_url获取价格,再由有余额上限的钱包批准单次抓取。 - 通过 REST API 把静态文档页转换为结构化文本,进入临时分析流程。
- 测试 x402 机器支付如何与 agent 工具调用结合,而不创建传统 API 账户。
不应把 zlurp 当作通用浏览器自动化工具。现有静态实现不会执行页面 JavaScript,也没有登录、点击、表单或会话保持能力。
价格与版本
| 能力 | 标价 | 核验状态 |
|---|---|---|
probe / probe_url | 免费 | 可用于请求前估价 |
静态抓取 js: false | 0.005 USDC/URL | 官网、API 描述与公开付款实现一致 |
JavaScript 渲染 js: true | 宣称 0.015 USDC/URL | 未在公开 /scrape 实现中验证,当前代码仍走静态 fetch |
| 缓存命中 | 仍按标准价格 | 服务条款称一小时内缓存结果仍收费 |
该服务没有“免费增值”套餐,应归类为付费按次服务。付款使用 Base 主网 USDC,链上交易通常不可撤销,且会公开发送钱包、收款地址、金额与交易记录。为 agent 配置钱包时应使用低余额专用钱包和调用预算,不要暴露主钱包私钥。
国内访问与使用体验
zlurp 的网站和远程 MCP 是否可访问,只是使用条件的一部分;还需要兼容 x402 的客户端、Base 主网 RPC、USDC 余额和安全的钱包签名环境。needsVPN: false 不代表链上组件、目标网站或目标内容在所有网络环境下都稳定可用。
静态页面通常能较快返回,但 Readability 可能丢失导航、表格或非文章区块。结果缓存一小时可以减少重复抓取延迟,却意味着提交的 URL 和抓取内容会进入 Redis;官方隐私页称不会永久保存,但 Railway、Upstash 和运行日志仍构成第三方处理面。
优点
- 无需账户和 API Key,低频调用不必购买月度套餐。
- 静态抓取单价明确,
probe可先估价。 - REST、OpenAPI、agent card 和 MCP 入口便于 agent 集成。
- Readability 与 full 模式覆盖常见文章和普通 HTML 页面。
- 一小时缓存可改善重复 URL 的响应时间。
不足
- JavaScript 能力未验证:官网标注 0.015 USDC 动态渲染,但公开实现没有浏览器渲染路径,不能据此承诺 SPA 支持。
- SSRF 防护缺口:公开代码只校验
http:/https:,未见对 localhost、私网 IP、云元数据地址、DNS 重绑定或重定向目标的阻断。服务运营方需要补充网络出口隔离;调用者也不应提交内网 URL。 - robots 检查会失败开放:robots.txt 获取超时、异常或非 2xx 时默认允许,且使用通用浏览器 UA 查询
*规则。这不能代替站点条款、版权、数据库权利或隐私合规审查。 - 法律与运营信息有限:简短条款要求用户遵守目标网站规则,但对运营主体、司法管辖、删除请求、侵权处理、SLA 和争议机制披露不足。批量或商业采集前需要自行做法律评估。
- 钱包和 x402 风险:示例从环境变量读取私钥,自动付款可能被循环调用或提示注入放大;链上支付不可退款并公开关联钱包。必须设置低余额钱包、调用上限和人工审批。
- 缓存与数据处理:URL 和 Markdown 在 Redis 中缓存一小时,托管与缓存供应商可能保留日志;敏感、个人或受限内容不宜提交。
- 许可证不能混用:服务仓库
github.com/zlurp/zlurp没有许可证文件,根package.json也未声明 license。PyPI 上名为 zlurp 的 Python 包只是一层客户端,其元数据标注 MIT,不能据此认定 TypeScript 服务、托管 API 或 MCP 服务采用 MIT。
替代品对比
| 工具 | 更适合 | 与 zlurp 的主要区别 |
|---|---|---|
| Firecrawl | 需要成熟 API、爬取任务和 JavaScript 页面 | 功能与商业支持更完整,通常需要账户和传统计费 |
| ScrapeGraphAI | 需要用 LLM 驱动结构化抽取 | 更强调抽取图和结构化结果,不以 x402 单次付款为核心 |
| Scrapling | 希望自行运行 Python 抓取栈 | 可控性更高,但需要自行部署、维护和承担合规责任 |
| Browser Use | 需要点击、登录和浏览器操作 | 属于浏览器 agent,不是轻量 URL 转 Markdown API |
常见问题 FAQ
zlurp 是免费的吗?
不是。估价接口免费,实际静态抓取按 0.005 USDC/URL 收费,因此 frontmatter 应标记为“付费”。
zlurp 能抓取 JavaScript 页面吗?
官网宣称 js: true 为 0.015 USDC/URL,但截至 2026 年 7 月 21 日,公开 /scrape 代码没有浏览器渲染实现,仍直接抓取 HTML,并报告 jsRendered: false。上线使用前应做付费实测和退款边界确认。
zlurp 的 MCP 如何付款?
远程 MCP 的 probe_url 可免费估价,scrape_url 通过 x402 要求 Base USDC 付款。客户端必须支持相应的支付流程,并安全管理钱包签名。
zlurp 是 MIT 开源吗?
不能这样描述。TypeScript 服务仓库没有明确许可证。PyPI 客户端元数据中的 MIT 只适用于该客户端包,不自动覆盖服务端源码、托管 API 或品牌服务。
缓存多久,命中缓存还收费吗?
公开代码设置 Redis TTL 为 3600 秒,即一小时。服务条款称缓存命中仍按标准价格收费,所以重复 URL 不等于免费。
它会严格遵守 robots.txt 吗?
代码会检查 robots.txt,但获取失败时默认允许。即使 robots.txt 允许,调用者仍需遵守目标站服务条款、版权、隐私和适用法律。
有哪些主要安全风险?
重点是 URL 抓取可能形成 SSRF、agent 自动支付可能失控、钱包私钥可能泄露,以及抓取内容进入缓存和第三方日志。生产使用前应实施 URL 出口策略、预算限制、专用钱包和内容合规审查。
总结
zlurp 的真实优势是简单:远程 API/MCP、静态 URL 转 Markdown、0.005 USDC 按次结算,不需要账号。它仍是一个早期付费服务,0.015 USDC JavaScript 渲染尚无法从公开实现验证,服务端许可证、SSRF 防护、robots 失败开放、法律披露、钱包自动支付与一小时缓存都需要额外审查。适合小额隔离实验,不建议直接接入无预算上限或可访问敏感网络的生产 agent。