登录 注册
开源 企业版 高校版 私有云 Gitee AI NEW
WEB应用开发
/
Web爬虫
开源许可
MulanPSL-2.0 0BSD AFL-3.0 AGPL-3.0 Apache-2.0 Artistic-2.0 BSD-2-Clause BSD-3-Clause BSD-3-Clause-Clear BSL-1.0 CC-BY-4.0 CC-BY-SA-4.0 CC0-1.0 ECL-2.0 EPL-1.0 EPL-2.0 EUPL-1.1 EUPL-1.2 GPL-2.0 GPL-3.0 ISC LGPL-2.1 LGPL-3.0 LPPL-1.3c MIT MPL-2.0 MS-PL MS-RL MulanPSL-1.0 MulanPubL-1.0 MulanPubL-2.0 NCSA OFL-1.1 OSL-3.0 PostgreSQL UPL-1.0 Unlicense WTFPL Zlib
Java
全部语言 JavaScript HTML CSS Python Shell C C++ PHP C# TypeScript Go Objective-C Android Kotlin Ruby Assembly Swift NodeJS Perl Dart Lua Matlab 其他 Rust PowerShell HTML/CSS 微信 Scala Groovy C/C++ XSLT Verilog R Docker QML Pascal CoffeeScript FORTRAN Erlang ActionScript Emacs Lisp Smalltalk SQL Delphi TeX/LaTeX VHDL ASP Visual Basic M Clojure Common Lisp Haskell Awk LiveScript Elixir Scheme 易语言 Julia OCaml Puppet YAML AutoHotkey Ada Pawn Standard ML D XML Arduino Logos VimL Prolog 汇编 Haxe ColdFusion Vala Crystal Scilab Coq Racket Lisp Slash Eiffel eC DOT Zephir Nemerle
Stars
Stars 最新推荐 最近更新
2040377 code4everything 1578991454

code4everything/visual-spider

220
欢迎体验我们全新的桌面端效率工具RunFlow，https://myrest.top/myflow
Java
Web爬虫
|
1个月前

CrawlScript/WebCollector

216
A java crawler for infomation collection.
Java
Web爬虫
|
5年多前

MountFuji/easycrawl

188
基于webmagic的通用爬虫抓取应用，核心在于简单易用，搭建好后轻松抓取数据
Java
Web爬虫
|
接近2年前
9184950 stonedtx 1643009227

思通数科 StoneDT/Open-Spider

183
不懂数据采集技术，也可轻松采集海量数据！简单易上手，人人可用的数据采集工具！
网络爬虫
Spider
数据采集
分布式
抖音
Java
Web爬虫
|
1个月前

Ticsmyc/2019nCoV-Crawler

175
定时爬取丁香园冠状病毒新型肺炎疫情实时数据，并持久化到MySQL数据库做 数据比对，当数据发生变化时向用户推送邮件通知
Java
Web爬虫 新冠病毒相关开源
|
2年前
23781 poet 1578915509

最爱吃小鱼/WechatSpider

174
抓取微信公众号全部文章，采用AnyProxy+Javascript+Java实现
Java
Web爬虫
|
6年前

乾坤盒子/MongooCrawler

174
一款低入侵分布式爬虫框架，仅仅依赖少量第三方包，具有多进程多线程，集成反爬、验证码破解方案，自由定制，cookie自动管理，多数据源支持（database，nosql，es），客户端-服务端分离（充分利用ip）集群支持等特性）
Java
Web爬虫
|
3年多前
2052445 cv team 1578991467

CVTeam_CN/FaceSpider

143
目标识别爬虫
Java
Web爬虫
|
5年前

itlabers/CrawlerDemon

135
分布式爬虫 Crawler
Java
Web爬虫
|
7年前

jimmy_JYue/jy-spider

128
惊讶网站的垂直爬取网页程序，提供UI来管理爬取的网站和爬取文章内容的规则。 通过jsoup来获取标题和内容，主要是通过选着器获取。
Java
Web爬虫
|
5年前
1981977 taisan 1591943162

taishan/微信文章爬虫 Reptile

121
爬虫项目，微信公众号文章爬虫，网站文章爬虫，群发邮件系统
微信公众号爬虫
Java
Web爬虫
|
3个月前
336215 yoqu 1578920490

yoqu/小说爬虫

115
基于webmagic的一个小说爬虫项目
Java
Web爬虫
|
接近7年前

樊勇/jvppeteer

111
Java Headless 浏览器 抓取页面
Java
Web爬虫
|
2年多前
572993 wgs123 1578928034

Gwenson/Gwenson-robot

100
这是一个使用JAVA语言开发的应用级的分布式爬虫搜索引擎机器人
Java
Web爬虫
|
5年多前
15003 xautlx 1578915005

xautlx/nutch-ajax

99
基于Apache Nutch和Solr以及Htmlunit, Selenium WebDriver等组件扩展，实现对于AJAX加载类型页面的完整页面内容爬取、解析、清洗、持久化、全文检索等处理
Java
搜索引擎 Web爬虫
|
接近6年前
今日热门
本周热门
鬼画符/templatespider
2.9K
扒网站工具，看好哪个网站，指定好URL，自动扒下来做成模版。所见网站，皆可为我所用！
思通数科 StoneDT/Open-Spider
183
不懂数据采集技术，也可轻松采集海量数据！简单易上手，人人可用的数据采集工具！
ssssssss-team/spider-flow
7.6K
新一代爬虫平台，以图形化方式定义爬虫流程，不写代码即可完成爬虫。
黄亿华/webmagic
4.8K
webmagic 是一个无须配置、便于二次开发的爬虫框架，它提供简单灵活的API，只需少量代码即可实现一个爬虫。
linzhaoquan/xx小说阅读网站
520
springboot【小说阅读网站】，多线程抓取小说数据(单本或者批量)，持久化到MySQL数据库，能定时跟源站数据同步=小说定时更新。通过jsoup采集数据到mysql数据，redis作为缓存框架，减轻服务器压力。部署在linux，网站UI套纵横中文网！
自风/Spiderman2
2.1K
二代蜘蛛侠，此版本完全重新开发，比上一代更加强大（性能，易用，架构，分布式，简洁，成熟）
鬼画符/templatespider
2.9K
扒网站工具，看好哪个网站，指定好URL，自动扒下来做成模版。所见网站，皆可为我所用！
ssssssss-team/spider-flow
7.6K
新一代爬虫平台，以图形化方式定义爬虫流程，不写代码即可完成爬虫。
黄亿华/webmagic
4.8K
webmagic 是一个无须配置、便于二次开发的爬虫框架，它提供简单灵活的API，只需少量代码即可实现一个爬虫。
思通数科 StoneDT/Open-Spider
183
不懂数据采集技术，也可轻松采集海量数据！简单易上手，人人可用的数据采集工具！
自风/Spiderman2
2.1K
二代蜘蛛侠，此版本完全重新开发，比上一代更加强大（性能，易用，架构，分布式，简洁，成熟）
linzhaoquan/xx小说阅读网站
520
springboot【小说阅读网站】，多线程抓取小说数据(单本或者批量)，持久化到MySQL数据库，能定时跟源站数据同步=小说定时更新。通过jsoup采集数据到mysql数据，redis作为缓存框架，减轻服务器压力。部署在linux，网站UI套纵横中文网！
lg0322/FilmSpider
10
基于java的爬虫系统，可爬取国内主流视频网站的视频数据，目前支持爬取豆瓣、猫眼、IMDB、百度百科、优酷、电视猫数据。
taishan/微信文章爬虫 Reptile
121
爬虫项目，微信公众号文章爬虫，网站文章爬虫，群发邮件系统
javacoo/CowSwing
278
丑牛迷你采集器是一款基于Java Swing开发的专业的网络数据采集/信息挖掘处理软件，通过灵活的配置，可以很轻松迅速地从 网页上抓取结构化的文本、图片、文件等资源信息，可编辑筛选处理后选择发布到网站
logic/QuickCompanyCollect
37
运行于java环境的一个免费开源的企业信息采集器（简单的java网络爬虫）。 信息采集完成后自动导出Excel表格。 基于Jsoup+Poi+Sqlite开发完成。
点此查找更多帮助

搜索帮助

Git 命令在线学习 如何在 Gitee 导入 GitHub 仓库
Git 仓库基础操作
企业版和社区版功能对比
SSH 公钥设置
如何处理代码冲突
仓库体积过大，如何减小？
如何找回被删除的仓库数据
Gitee 产品配额说明
GitHub仓库快速导入Gitee及同步更新
什么是 Release（发行版）
将 PHP 项目自动发布到 packagist.org
回到顶部