OSS Radar
首页
AI 分类
推理与服务5
大模型推理服务 · 向量化 / 重排服务 · 网关与路由
训练与微调6
训练框架 · 参数高效微调 · 后训练 / RLHF
数据工程4
数据集托管 · 数据清洗与处理 · 合成数据
检索与 RAG9
向量数据库 · RAG 框架 · 检索增强引擎
Agent 与编排6
Agent 框架 · 编码 Agent · 电脑 / 浏览器 Agent
评估 · 实验 · MLOps8
模型评测 · Agent 评测 · 实验管理
多模态生成5
图像生成 · 视频生成 · 视觉语言模型
视觉与 3D5
检测 / 分割 · 3D 重建 · 3D 生成
模型工具链8
量化 · 剪枝与蒸馏 · 格式转换
科研与论文实现3
论文复现 · 时序预测 · 科学计算 / 生物医药
开发工具
开发与框架5构建与交付4底层与逆向3
系统工具
系统与文件7图像与影音工具5实用小工具4
效率工具
记录与整理3输入与阅读4
媒体与内容
播放与媒体库4内容处理3
网络工具
访问与代理3连接与传输4
游戏相关
开发与运行2游玩相关2
安全与隐私
攻防与审计3加密与隐私1
硬件与机器人
嵌入式与物联网5机器人与具身智能3
数据与金融
数据库与存储4金融与量化1
探索排行榜开发语言标签
/
周报
本周新增、涨得最快、发了什么版本
对比项目
两个项目并排看 star、维护状态与硬件
数据体检
收录量、完整度缺口、沉睡项目
提交仓库
推荐项目,附上你的使用经验
反馈与纠错
分类错了、介绍不准、链接失效
关于本站
数据来源与分类原则
登录
OSS Radar

按算法工程工作流分类的开源工具库。数据来自 GitHub 公开 API,收录 6,740 个仓库、129 个细分分类。 带 ✦ 的条目有人工撰写的专家点评。

数据最近同步于 2026/11/11 14:07:13 · 本项目仅做聚合与索引,软件版权归原作者所有

浏览

  • 全部仓库
  • AI 分类
  • 排行榜
  • 开发语言
  • 标签与关键词
  • 搜索

关于

  • 关于本站
  • 数据体检
  • 提交仓库
  • 反馈与纠错
  • 偏好设置
  • 我的收藏
  • 我的点评
© 2026 OSS Radar数据每小时级同步 · 内容由算法与人工共同维护
⌘K
「爬虫工具」找到 81 个结果 · 16ms命中词:爬虫工具crawlerscraperscrapingspidercrawler* scraper*只看有点评
I
InfoSpider
kangvcar·Python

一站式爬虫工具箱,能自动抓取并导出 GitHub、邮箱、电商、运营商、社交平台等几十个网站的个人数据,帮用户把散落各处的数据拿回自己手里。

数据导出+4
82690—
kangvcar/InfoSpider · 17.08
E
EasySpider
NaiboWang·JavaScript

可视化无代码网页爬虫,通过图形界面设计和执行采集任务,让不懂编程的人也能批量抓取网页数据。

可视化爬虫+4
447810—
NaiboWang/EasySpider · 14.25
A
autoscraper
alirezamika·Python

给一个示例 URL,自动学习网页结构并生成抓取规则,省去手写解析逻辑,适合快速采集相似页面的数据。

网页抓取+3
80840—
alirezamika/autoscraper · 14.16
U
UltimaScraper
UltimaHoarder·TypeScript

用 TypeScript 编写的数据抓取工具,目前主要面向成人内容平台,能定期抓取并归档 OnlyFans 等站点的媒体数据。

数据抓取+4
42990—
UltimaHoarder/UltimaScraper · 14.02
N
node-website-scraper
website-scraper·JavaScript

把整个网站连同 CSS、图片、JS 等资源一起下载到本地目录,方便离线浏览或做站点备份。

网站镜像+4
17690—
website-scraper/node-website-scraper · 13.21
T
TelegramScraper
AbirHasan2005

从 Telegram 群组批量抓取成员(包括隐藏成员),并可直接把抓到的用户添加到自己的群组里。

Telegram+4
7220—
AbirHasan2005/TelegramScraper · 12.56
L
linkedin_scraper
joeyism·Python

用 Python 抓取 LinkedIn 用户和公司公开数据的爬虫库,基于 Chrome/Firefox 驱动模拟浏览,适合做招聘信息或人脉数据采集。

LinkedIn 爬虫+4
46710—
joeyism/linkedin_scraper · 12.54
C
CyberScraper-2077
itsOwen·Python

用 LLM 驱动的网页抓取工具,支持 OpenAI、Gemini 和 Ollama,能按自然语言指令从网页中提取结构化数据,省去手写解析规则。

网页抓取+3
33000—
itsOwen/CyberScraper-2077 · 12.52
C
CF-Clearance-Scraper
Xewdy444·Python

自动获取被 Cloudflare 挑战拦截的网站所下发的 cf_clearance Cookie,方便爬虫绕过验证继续访问。

Cloudflare绕过+4
5120—
Xewdy444/CF-Clearance-Scraper · 12.37
G
google-play-scraper
facundoolano·JavaScript

用 Node.js 抓取 Google Play 应用详情、评论、搜索结果的爬虫库,省去自己解析页面和接口的麻烦。

应用商店爬虫+3
30010—
facundoolano/google-play-scraper · 12.37
M
metascraper
microlinkhq·HTML

从任意 URL 抓取网页元数据,自动解析 Open Graph、JSON-LD 和 HTML meta 标签,并带智能兜底,适合做链接预览和内容摘要。

元数据抓取+4
27540—
microlinkhq/metascraper · 12.32
C
crawler
fredwu·Elixir

用 Elixir 写的高性能网页爬虫和抓取引擎,适合需要并发抓取并保存页面文件的场景。

网页爬虫+4
9620—
fredwu/crawler · 11.97
S
scala-scraper
ruippeixotog·Scala

用 Scala 写网页抓取时,它提供一套简洁的 DSL 来解析 HTML、提取内容,省去手写解析逻辑的麻烦。

网页抓取+3
7310—
ruippeixotog/scala-scraper · 11.93
G
google-play-scraper
oxylabs·Python

抓取 Google Play 上应用、游戏、影视和图书的公开信息,比如评分、评论和详情,省去自己解析页面。

应用商店爬虫+4
17530—
oxylabs/google-play-scraper · 11.88
S
scrapyrt
scrapinghub·Python

把 Scrapy 爬虫包装成 HTTP API,让其他语言或服务能远程触发爬虫并实时拿到抓取结果,省去自己搭调度和传输层。

爬虫服务+4
8850—
scrapinghub/scrapyrt · 11.84
G
googlemaps-scraper
gaspa93·Python

用 Python 抓取 Google Maps 上商户的评论数据,适合做口碑分析和竞品调研时批量采集评论。

谷歌地图+4
5340—
gaspa93/googlemaps-scraper · 11.68
T
twitter-scraper
the-convocation·TypeScript

把 n0madic 的 Twitter 抓取库移植到 Node.js,无需官方 API 就能抓取推文、用户资料和搜索结果。

推文抓取+3
6410—
the-convocation/twitter-scraper · 11.68
R
reddit-universal-scraper
ksanjeev284·Python

一个通用的 Reddit 爬虫,能抓取任意子版块或用户的内容,适合做数据采集和舆情分析。

Reddit 爬虫+4
6140—
ksanjeev284/reddit-universal-scraper · 11.65
S
scrapfly-scrapers
scrapfly·Python

一套面向 40 多个热门网站的 Python 爬虫脚本合集,内置代理和反爬绕过能力,省去从零处理验证码与封禁的麻烦。

网页爬虫+4
11260—
scrapfly/scrapfly-scrapers · 11.56
P
PHPScraper
spekulatius·PHP

PHP 版网页抓取工具,提供类似 BeautifulSoup 的简洁 API,可解析 HTML、提取页面数据,并支持无头浏览器渲染动态页面。

网页抓取+4
5880—
spekulatius/PHPScraper · 11.27
C
cheerio
cheeriojs·TypeScript

用 jQuery 风格的语法在服务端解析和操作 HTML/XML,写爬虫时提取页面数据比正则和原生 DOM 顺手得多。

HTML解析+4
305390—
cheeriojs/cheerio · 10.95
P
playwright
microsoft·TypeScript

用一套 API 同时驱动 Chromium、Firefox 和 WebKit 的浏览器自动化与端到端测试框架,适合写跨浏览器测试和网页抓取脚本。

浏览器自动化+4
998400—
microsoft/playwright · 9.92
S
scrapy
scrapy·Python

Python 的高层网页抓取框架,帮你快速写爬虫,自动处理请求调度、页面解析和数据提取,适合大规模采集任务。

网页抓取+4
653250—
scrapy/scrapy · 9.69
C
colly
gocolly·Go

Go 语言编写的高性能网页抓取与爬虫框架,提供简洁 API 处理请求、解析页面和并发抓取,适合快速搭建采集程序。

爬虫框架+4
255890—
gocolly/colly · 9.44
N
newspaper
codelucas·Python

用 Python 3 从新闻网页里自动抽取正文、标题、作者等元数据,省去自己写解析规则,适合做新闻聚合和内容抓取。

新闻抽取+4
151850—
codelucas/newspaper · 9.14
C
crawlee
apify·TypeScript

Node.js/TypeScript 网页抓取与浏览器自动化库,内置代理轮换和反封锁,兼容 Puppeteer、Playwright、Cheerio,可稳定采集数据供 AI、LLM、RAG 使用。

网页抓取+4
264170—
apify/crawlee · 9.04
R
rod
go-rod·Go

用 Go 写的 Chrome DevTools Protocol 驱动,直接操控浏览器做网页自动化和爬虫,省去手动管理浏览器进程的麻烦。

浏览器自动化+4
71500—
go-rod/rod · 8.82
B
browser-fingerprinting
niespodd·JavaScript

分析各类反爬与机器人检测系统(Akamai、PerimeterX、Arkose、AWS WAF 等)的识别原理,并给出绕过浏览器指纹脚本的可行对策,适合做网页采集时参考。

浏览器指纹+4
51610—
niespodd/browser-fingerprinting · 8.6
M
mdcx
sqzw-x·Python

Movie metadata scraper

36920—
sqzw-x/mdcx · 8.45
W
WaterCrawl
watercrawl·TypeScript

把网页内容抓取并转换成适合大模型使用的结构化数据,支持 HTML 转 Markdown,方便为 LLM 准备训练或检索语料。

网页抓取+4
22210—
watercrawl/WaterCrawl · 8.37
C
crawlee-python
apify·Python

Python 网页抓取与浏览器自动化库,支持 Playwright、BeautifulSoup 和原始 HTTP,自带代理轮换,方便为 AI、LLM、RAG 稳定采集网页数据。

网页抓取+4
96640—
apify/crawlee-python · 8.35
S
selectolax
rushter·Python

基于 Modest 和 Lexbor 引擎的 Python HTML5 解析库,解析速度快,支持 CSS 选择器,适合网页抓取时高效提取页面数据。

HTML解析+4
17140—
rushter/selectolax · 8.3
J
JobFunnel
PaulMcInnis·Python

Scrape job websites into a single spreadsheet with no duplicates.

21980—
PaulMcInnis/JobFunnel · 8.15
W
wreq-python
0x676e67·Python

一个注重隐私的 Python HTTP 客户端,能模拟浏览器 TLS/HTTP2 指纹(JA3/JA4、Akamai),帮爬虫绕过反爬检测。

HTTP 客户端+4
15150—
0x676e67/wreq-python · 8.11
N
node-ytdl-core
fent·JavaScript

用 JavaScript 实现的 YouTube 视频下载库,可在 Node.js 中直接抓取并保存视频,省去自己解析页面和拼接下载地址的麻烦。

视频下载+3
47350—
fent/node-ytdl-core · 7.91
S
scrape-it
IonicaBizau·JavaScript

一个面向人类的 Node.js 网页抓取库,用简洁的链式配置从 HTML 中提取结构化数据,省去手写选择器解析的麻烦。

网页抓取+4
40700—
IonicaBizau/scrape-it · 7.89
T
twikit
d60·Python

无需 API Key 即可抓取 Twitter 数据的 Python 库,直接调用 Twitter 内部接口,支持发推、搜索、爬取用户信息,还能做机器人。

Twitter 爬虫+4
47680—
d60/twikit · 7.85
G
geziyor
geziyor·Go

Go 语言编写的高性能网页爬虫与抓取框架,支持 JS 渲染,适合快速搭建大规模采集任务。

网页爬虫+4
27830—
geziyor/geziyor · 7.82
Q
QueryList
jae-jae·PHP

用 PHP 写采集爬虫的渐进式框架,语法优雅、上手简单,适合快速抓取网页并提取结构化数据。

PHP 爬虫+3
26910—
jae-jae/QueryList · 7.81
N
NewPipeExtractor
TeamNewPipe·Java

从 YouTube、SoundCloud、Bandcamp 等流媒体站点抓取视频与音频元数据及流地址的 Java 解析库,是 NewPipe 客户端的核心组件。

流媒体解析+4
20520—
TeamNewPipe/NewPipeExtractor · 7.68

发布说明里提到「爬虫工具」

来自 1 个版本
  • kangvcar/InfoSpiderv1.02020-08-18

    …com/video/BV14f4y1R7oF/) INFO-SPIDER 是一个集众多数据源于一身的爬虫工具箱,旨在安全快捷的帮助用户拿回自己的数据,工具代码开源,流程透明。支持数据源包括 GitHub 、QQ 邮箱、网易邮箱、阿里邮箱、新浪邮箱、Hotmail 邮箱、Outlook 邮箱、京东、淘宝、支付宝、中国移动、中国联通、中国电信