一站式爬虫工具箱,能自动抓取并导出 GitHub、邮箱、电商、运营商、社交平台等几十个网站的个人数据,帮用户把散落各处的数据拿回自己手里。
可视化无代码网页爬虫,通过图形界面设计和执行采集任务,让不懂编程的人也能批量抓取网页数据。
给一个示例 URL,自动学习网页结构并生成抓取规则,省去手写解析逻辑,适合快速采集相似页面的数据。
用 TypeScript 编写的数据抓取工具,目前主要面向成人内容平台,能定期抓取并归档 OnlyFans 等站点的媒体数据。
把整个网站连同 CSS、图片、JS 等资源一起下载到本地目录,方便离线浏览或做站点备份。
从 Telegram 群组批量抓取成员(包括隐藏成员),并可直接把抓到的用户添加到自己的群组里。
用 Python 抓取 LinkedIn 用户和公司公开数据的爬虫库,基于 Chrome/Firefox 驱动模拟浏览,适合做招聘信息或人脉数据采集。
用 LLM 驱动的网页抓取工具,支持 OpenAI、Gemini 和 Ollama,能按自然语言指令从网页中提取结构化数据,省去手写解析规则。
自动获取被 Cloudflare 挑战拦截的网站所下发的 cf_clearance Cookie,方便爬虫绕过验证继续访问。
用 Node.js 抓取 Google Play 应用详情、评论、搜索结果的爬虫库,省去自己解析页面和接口的麻烦。
从任意 URL 抓取网页元数据,自动解析 Open Graph、JSON-LD 和 HTML meta 标签,并带智能兜底,适合做链接预览和内容摘要。
用 Elixir 写的高性能网页爬虫和抓取引擎,适合需要并发抓取并保存页面文件的场景。
用 Scala 写网页抓取时,它提供一套简洁的 DSL 来解析 HTML、提取内容,省去手写解析逻辑的麻烦。
抓取 Google Play 上应用、游戏、影视和图书的公开信息,比如评分、评论和详情,省去自己解析页面。
把 Scrapy 爬虫包装成 HTTP API,让其他语言或服务能远程触发爬虫并实时拿到抓取结果,省去自己搭调度和传输层。
用 Python 抓取 Google Maps 上商户的评论数据,适合做口碑分析和竞品调研时批量采集评论。
把 n0madic 的 Twitter 抓取库移植到 Node.js,无需官方 API 就能抓取推文、用户资料和搜索结果。
一个通用的 Reddit 爬虫,能抓取任意子版块或用户的内容,适合做数据采集和舆情分析。
一套面向 40 多个热门网站的 Python 爬虫脚本合集,内置代理和反爬绕过能力,省去从零处理验证码与封禁的麻烦。
PHP 版网页抓取工具,提供类似 BeautifulSoup 的简洁 API,可解析 HTML、提取页面数据,并支持无头浏览器渲染动态页面。
用 jQuery 风格的语法在服务端解析和操作 HTML/XML,写爬虫时提取页面数据比正则和原生 DOM 顺手得多。
用一套 API 同时驱动 Chromium、Firefox 和 WebKit 的浏览器自动化与端到端测试框架,适合写跨浏览器测试和网页抓取脚本。
Python 的高层网页抓取框架,帮你快速写爬虫,自动处理请求调度、页面解析和数据提取,适合大规模采集任务。
Go 语言编写的高性能网页抓取与爬虫框架,提供简洁 API 处理请求、解析页面和并发抓取,适合快速搭建采集程序。
用 Python 3 从新闻网页里自动抽取正文、标题、作者等元数据,省去自己写解析规则,适合做新闻聚合和内容抓取。
Node.js/TypeScript 网页抓取与浏览器自动化库,内置代理轮换和反封锁,兼容 Puppeteer、Playwright、Cheerio,可稳定采集数据供 AI、LLM、RAG 使用。
用 Go 写的 Chrome DevTools Protocol 驱动,直接操控浏览器做网页自动化和爬虫,省去手动管理浏览器进程的麻烦。
分析各类反爬与机器人检测系统(Akamai、PerimeterX、Arkose、AWS WAF 等)的识别原理,并给出绕过浏览器指纹脚本的可行对策,适合做网页采集时参考。
Movie metadata scraper
把网页内容抓取并转换成适合大模型使用的结构化数据,支持 HTML 转 Markdown,方便为 LLM 准备训练或检索语料。
Python 网页抓取与浏览器自动化库,支持 Playwright、BeautifulSoup 和原始 HTTP,自带代理轮换,方便为 AI、LLM、RAG 稳定采集网页数据。
基于 Modest 和 Lexbor 引擎的 Python HTML5 解析库,解析速度快,支持 CSS 选择器,适合网页抓取时高效提取页面数据。
Scrape job websites into a single spreadsheet with no duplicates.
一个注重隐私的 Python HTTP 客户端,能模拟浏览器 TLS/HTTP2 指纹(JA3/JA4、Akamai),帮爬虫绕过反爬检测。
用 JavaScript 实现的 YouTube 视频下载库,可在 Node.js 中直接抓取并保存视频,省去自己解析页面和拼接下载地址的麻烦。
一个面向人类的 Node.js 网页抓取库,用简洁的链式配置从 HTML 中提取结构化数据,省去手写选择器解析的麻烦。
无需 API Key 即可抓取 Twitter 数据的 Python 库,直接调用 Twitter 内部接口,支持发推、搜索、爬取用户信息,还能做机器人。
Go 语言编写的高性能网页爬虫与抓取框架,支持 JS 渲染,适合快速搭建大规模采集任务。
用 PHP 写采集爬虫的渐进式框架,语法优雅、上手简单,适合快速抓取网页并提取结构化数据。
从 YouTube、SoundCloud、Bandcamp 等流媒体站点抓取视频与音频元数据及流地址的 Java 解析库,是 NewPipe 客户端的核心组件。