OSS Radar
首页
AI 分类
推理与服务5
大模型推理服务 · 向量化 / 重排服务 · 网关与路由
训练与微调6
训练框架 · 参数高效微调 · 后训练 / RLHF
数据工程4
数据集托管 · 数据清洗与处理 · 合成数据
检索与 RAG9
向量数据库 · RAG 框架 · 检索增强引擎
Agent 与编排6
Agent 框架 · 编码 Agent · 电脑 / 浏览器 Agent
评估 · 实验 · MLOps8
模型评测 · Agent 评测 · 实验管理
多模态生成5
图像生成 · 视频生成 · 视觉语言模型
视觉与 3D5
检测 / 分割 · 3D 重建 · 3D 生成
模型工具链8
量化 · 剪枝与蒸馏 · 格式转换
科研与论文实现3
论文复现 · 时序预测 · 科学计算 / 生物医药
开发工具
开发与框架5构建与交付4底层与逆向3
系统工具
系统与文件7图像与影音工具5实用小工具4
效率工具
记录与整理3输入与阅读4
媒体与内容
播放与媒体库4内容处理3
网络工具
访问与代理3连接与传输4
游戏相关
开发与运行2游玩相关2
安全与隐私
攻防与审计3加密与隐私1
硬件与机器人
嵌入式与物联网5机器人与具身智能3
数据与金融
数据库与存储4金融与量化1
探索排行榜开发语言标签
/
周报
本周新增、涨得最快、发了什么版本
对比项目
两个项目并排看 star、维护状态与硬件
数据体检
收录量、完整度缺口、沉睡项目
提交仓库
推荐项目,附上你的使用经验
反馈与纠错
分类错了、介绍不准、链接失效
关于本站
数据来源与分类原则
登录
OSS Radar

按算法工程工作流分类的开源工具库。数据来自 GitHub 公开 API,收录 6,739 个仓库、129 个细分分类。 带 ✦ 的条目有人工撰写的专家点评。

数据最近同步于 2026/11/10 20:04:40 · 本项目仅做聚合与索引,软件版权归原作者所有

浏览

  • 全部仓库
  • AI 分类
  • 排行榜
  • 开发语言
  • 标签与关键词
  • 搜索

关于

  • 关于本站
  • 数据体检
  • 提交仓库
  • 反馈与纠错
  • 偏好设置
  • 我的收藏
  • 我的点评
© 2026 OSS Radar数据每小时级同步 · 内容由算法与人工共同维护
⌘K
「Python 爬虫」找到 50 个结果 · 16ms命中词:爬虫pythoncrawlerscraperscrapingspider只看有点评
A
autoscraper
alirezamika·Python

给一个示例 URL,自动学习网页结构并生成抓取规则,省去手写解析逻辑,适合快速采集相似页面的数据。

网页抓取+3
80820—
alirezamika/autoscraper · 15.83
L
linkedin_scraper
joeyism·Python

用 Python 抓取 LinkedIn 用户和公司公开数据的爬虫库,基于 Chrome/Firefox 驱动模拟浏览,适合做招聘信息或人脉数据采集。

LinkedIn 爬虫+4
46690—
joeyism/linkedin_scraper · 15.8
P
ProxyPool
Python3WebSpider·Python

用 Flask + Redis 搭建的代理池,自动从多个来源抓取免费代理并持续检测可用性,通过 HTTP 接口给爬虫提供稳定可用的代理 IP。

代理池+4
62610—
Python3WebSpider/ProxyPool · 15.58
C
crawlee-python
apify·Python

Python 网页抓取与浏览器自动化库,支持 Playwright、BeautifulSoup 和原始 HTTP,自带代理轮换,方便为 AI、LLM、RAG 稳定采集网页数据。

网页抓取+4
96590—
apify/crawlee-python · 15.56
I
InfoSpider
kangvcar·Python

一站式爬虫工具箱,能自动抓取并导出 GitHub、邮箱、电商、运营商、社交平台等几十个网站的个人数据,帮用户把散落各处的数据拿回自己手里。

数据导出+4
82690—
kangvcar/InfoSpider · 15.51
J
JMComic-Crawler-Python
hect0x7·Python

提供 Python API 访问禁漫天堂,支持网页端和移动端,可配合 GitHub Actions 自动下载漫画。

漫画下载器+4
79810—
hect0x7/JMComic-Crawler-Python · 14.97
W
wreq-python
0x676e67·Python

一个注重隐私的 Python HTTP 客户端,能模拟浏览器 TLS/HTTP2 指纹(JA3/JA4、Akamai),帮爬虫绕过反爬检测。

HTTP 客户端+4
15160—
0x676e67/wreq-python · 14.87
S
scrapyrt
scrapinghub·Python

把 Scrapy 爬虫包装成 HTTP API,让其他语言或服务能远程触发爬虫并实时拿到抓取结果,省去自己搭调度和传输层。

爬虫服务+4
8860—
scrapinghub/scrapyrt · 14.66
S
scrapfly-scrapers
scrapfly·Python

一套面向 40 多个热门网站的 Python 爬虫脚本合集,内置代理和反爬绕过能力,省去从零处理验证码与封禁的麻烦。

网页爬虫+4
11260—
scrapfly/scrapfly-scrapers · 14.6
G
google-play-scraper
oxylabs·Python

抓取 Google Play 上应用、游戏、影视和图书的公开信息,比如评分、评论和详情,省去自己解析页面。

应用商店爬虫+4
17530—
oxylabs/google-play-scraper · 14.28
R
reddit-universal-scraper
ksanjeev284·Python

一个通用的 Reddit 爬虫,能抓取任意子版块或用户的内容,适合做数据采集和舆情分析。

Reddit 爬虫+4
6130—
ksanjeev284/reddit-universal-scraper · 14.17
B
boss-zhipin-scraper
eatmoreduck·Python

基于 Chrome CDP 复用真实登录态抓取 BOSS 直聘职位数据,能绕过字体反爬,直接输出明文薪资的 JSON/CSV 并做薪资技能分析。

BOSS直聘爬虫+4
17420—
eatmoreduck/boss-zhipin-scraper · 14.02
G
googlemaps-scraper
gaspa93·Python

用 Python 抓取 Google Maps 上商户的评论数据,适合做口碑分析和竞品调研时批量采集评论。

谷歌地图+4
5340—
gaspa93/googlemaps-scraper · 13.98
S
scrapy
scrapy·Python

Python 的高层网页抓取框架,帮你快速写爬虫,自动处理请求调度、页面解析和数据提取,适合大规模采集任务。

网页抓取+4
653130—
scrapy/scrapy · 11.36
P
proxy_pool
jhao104·Python

Python 写的代理池服务,自动抓取、校验并维护可用代理,通过 Redis 存储,给爬虫提供稳定的 HTTP 代理来源。

代理池+4
237840—
jhao104/proxy_pool · 10.41
S
Scrapegraph-ai
ScrapeGraphAI·Python

用大语言模型驱动的 Python 爬虫,只需描述想抓什么,就能自动完成网页抓取和结构化数据提取,省去手写解析规则。

智能爬虫+4
326950—
ScrapeGraphAI/Scrapegraph-ai · 10.29
N
newspaper
codelucas·Python

用 Python 3 从新闻网页里自动抽取正文、标题、作者等元数据,省去自己写解析规则,适合做新闻聚合和内容抓取。

新闻抽取+4
151840—
codelucas/newspaper · 10.2
S
Scrapling
D4Vinci·Python

Python 网页抓取框架,从单次请求到大规模爬取都能处理,内置 Playwright 支持,还提供 MCP 服务方便接入 AI 工作流。

网页抓取+4
1009970—
D4Vinci/Scrapling · 10.14
C
crawl4ai
unclecode·Python

面向 AI 智能体的网页抓取与数据提取爬虫,把网页转成干净的 Markdown 喂给 LLM 和 RAG 流程,支持自托管。

网页抓取+4
871860—
unclecode/crawl4ai · 9.98
T
twikit
d60·Python

无需 API Key 即可抓取 Twitter 数据的 Python 库,直接调用 Twitter 内部接口,支持发推、搜索、爬取用户信息,还能做机器人。

Twitter 爬虫+4
47700—
d60/twikit · 9.59
M
mdcx
sqzw-x·Python

Movie metadata scraper

36920—
sqzw-x/mdcx · 9.52
I
instaloader
instaloader·Python

用 Python 从 Instagram 批量下载图片、视频、配文和元数据,支持帖子、快照和用户主页,适合做数据采集和存档。

Instagram 下载+4
138510—
instaloader/instaloader · 9.44
W
WaterCrawl
watercrawl·TypeScript

把网页内容抓取并转换成适合大模型使用的结构化数据,支持 HTML 转 Markdown,方便为 LLM 准备训练或检索语料。

网页抓取+4
22210—
watercrawl/WaterCrawl · 9.29
S
selectolax
rushter·Python

基于 Modest 和 Lexbor 引擎的 Python HTML5 解析库,解析速度快,支持 CSS 选择器,适合网页抓取时高效提取页面数据。

HTML解析+4
17140—
rushter/selectolax · 9.24
F
finviz
mariostoev·Python

非官方的 Finviz 数据接口,用 Python 抓取股票筛选器、图表和 CSV 数据,省去自己写爬虫解析网页的麻烦。

股票数据+3
13670—
mariostoev/finviz · 9.23
J
JobFunnel
PaulMcInnis·Python

Scrape job websites into a single spreadsheet with no duplicates.

21980—
PaulMcInnis/JobFunnel · 9.19
H
how-to-scrape-google-trends
oxylabs·Python

用 Python 配合 Oxylabs SERP API 抓取 Google Trends 数据,提取关键词热度、地区分布和相关查询,并做结果对比。

Google Trends+4
29140—
oxylabs/how-to-scrape-google-trends · 9.17
I
informer
paulpierre·Python

用 Python 写的 Telegram 监控机器人,能批量监听群组和频道消息,适合做舆情追踪或加密货币相关情报收集。

Telegram监控+4
16850—
paulpierre/informer · 9.15
T
twscrape
vladkens·Python

用 Python 库和命令行抓取 X/Twitter 推文,支持多账号轮换和内置限流处理,解决大规模采集时账号被封或触发频率限制的问题。

推文抓取+4
29470—
vladkens/twscrape · 9.12
G
google-images-download
hardikvasa·Python

一条命令就能从 Google 图片批量抓取几百张图片,支持按颜色、尺寸等条件筛选,适合快速搭建图像数据集。

图片爬虫+4
87060—
hardikvasa/google-images-download · 9.1
H
HomeHarvest
ZacharyHampton·Python

用 Python 抓取 Redfin、Realtor 等房产网站的挂牌数据,直接输出结构化表格,省去自己写爬虫和解析页面的麻烦。

房产数据抓取+4
7620—
ZacharyHampton/HomeHarvest · 9.09
C
cinemagoer
cinemagoer·Python

用 Python 抓取和管理 IMDb 电影、演员与角色数据的工具包,方便做影视资料查询和数据集构建。

IMDb 数据+4
13250—
cinemagoer/cinemagoer · 8.97
H
how-to-scrape-google-jobs
oxylabs·Python

用 Python 配合 Oxylabs 的 Google Jobs Scraper API,同时按多个搜索词和地区抓取 Google 招聘信息,省去自己处理反爬和解析页面的麻烦。

网页抓取+4
17710—
oxylabs/how-to-scrape-google-jobs · 8.96
N
newspaper4k
AndyTheFactory·Python

从新闻网站批量抓取文章正文、标题和元数据的 Python 库,是 Newspaper3k 的维护分支,适合做新闻语料采集和数据集准备。

新闻抓取+4
11710—
AndyTheFactory/newspaper4k · 8.94
J
JobSpy
speedyapply·Python

一个 Python 招聘信息抓取库,能从 LinkedIn、Indeed、Glassdoor 等八个招聘网站批量采集职位数据,省去逐个平台爬取的麻烦。

招聘爬虫+3
46890—
speedyapply/JobSpy · 8.93
L
Lead-Generation
Madi-S·Python

用 Python 写的批量获客脚本,让没有编程基础的人也能大规模采集潜在客户线索,内置多种爬虫与解析技巧。

获客线索+4
6830—
Madi-S/Lead-Generation · 8.88
I
InstagramPrivSniffer
obitouka·Python

匿名查看 Instagram 私密账号帖子的命令行工具,面向 OSINT 调查场景,无需登录或关注即可获取受限内容。

OSINT+4
11220—
obitouka/InstagramPrivSniffer · 8.87
T
trafilatura
adbar·Python

从网页抓取正文和元数据的 Python 库与命令行工具,支持爬取、解析并导出为 CSV、JSON、Markdown 等格式,适合构建语料库和 RAG 数据。

网页正文提取+4
71160—
adbar/trafilatura · 8.85
U
URS
JosephLai241·Python

一条命令就能把 Reddit 的帖子、评论和用户数据批量抓取下来,导出成 CSV 或 JSON,方便做数据分析和存档。

Reddit 爬虫+4
10450—
JosephLai241/URS · 8.79
S
Scout
kiryano·Python

从 Instagram、Twitch、TikTok、LinkedIn 抓取用户主页,提取简介里的邮箱并用 SMTP 验证有效性,最后导出 CSV,适合做免费线索挖掘。

线索挖掘+4
7990—
kiryano/Scout · 8.69

发布说明里提到「Python 爬虫」

来自 6 个版本
  • volcengine/OpenViking[email protected]2026-11-09

  • XiaochangXu/AVBoxv1.3.72026-11-08

    - 爬虫 jar 缓存迁到 cacheDir,清除缓存可释放 - py 缓存改写到用户数据目录,避免应用装到 Program Files 时源无法启动

  • e2b-dev/E2B@e2b/[email protected]2026-11-04

    …h Changes - Updated dependencies [a8155c4] - @e2b/[email protected]

  • volcengine/OpenViking[email protected]2026-11-02

  • WenyuChiou/awesome-agentic-ai-zhv2026.10.292026-10-29

    …44) - learning-content Stage 0 學習目標後新增可見核心詞表,白話區分 Python、Terminal、CLI、Shell、資料格式與 GitHub,以及 Commit、Push、PR、Merge。三語圖解和本專案真實 Commit 截圖說明作者、時間、訊息、SHA、History 與 Diff,並區分 Com

  • shuaiplus/inkstonev0.7.02026-08-31

    …or 实例;加载过程使用稳定骨架;文件夹和笔记操作也增加了更清晰的动效反馈。同时调整了文本颜色令牌、爬虫规则,并更新 WebAssembly 支持依赖。提交:[e4b0a18](https://github.com/shuaiplus/inkstone/commit/e4b0a18)、[09e6339](https://github.co