当前位置:

WebCollector网络爬虫框架 v2.x

收藏
举报
WebCollector是一个无须配置、便于二次开发的Java爬虫框架(内核),它提供精简的的API,只需少量代码即可实现一个功能强大的爬虫。WebCollector-Hadoop是WebCollector的Hadoop版本,支持分布式爬取。WebCollector致力于维护一个稳定、可扩的爬虫内核,便于开发者进行灵活的二次开发。内核具有很强的扩展性,用户可以在内核基础上开发自己想要的爬虫。源码中
  • 作者:
    暂无
  • 演示网站:
    暂无
  • 当前版本:
    v2.x
  • 日期:
    2020-08-11
  • 相关链接:
    Home Page
  • 所属分类:
    开发框架 Java
  • 软件评级:
  • 下载人气:
    482
免费下载
求购此源码
应用截图
源码详情
免费下载
联系客服/入群
源码属性
授权 开源
大小 16.89MB
语言 Java
运行环境 JAVA
功能介绍
WebCollector是一个无须配置、便于二次开发的Java爬虫框架(内核),它提供精简的的API,只需少量代码即可实现一个功能强大的爬虫。WebCollector-Hadoop是WebCollector的Hadoop版本,支持分布式爬取。

WebCollector致力于维护一个稳定、可扩的爬虫内核,便于开发者进行灵活的二次开发。内核具有很强的扩展性,用户可以在内核基础上开发自己想要的爬虫。源码中集成了Jsoup,可进行精准的网页解析。2.x版本中集成了selenium,可以处理JavaScript生成的数据。

WebCollector特性:
1、自定义遍历策略,可完成更为复杂的遍历业务,例如分页、AJAX
2、可以为每个 URL 设置附加信息(MetaData),利用附加信息可以完成很多复杂业务,例如深度获取、锚文本获取、引用页面获取、POST 参数传递、增量更新等。
3、使用插件机制,用户可定制自己的Http请求、过滤器、执行器等插件。
4、内置一套基于内存的插件(RamCrawler),不依赖文件系统或数据库,适合一次性爬取,例如实时爬取搜索引擎。
5、内置一套基于 Berkeley DB(BreadthCrawler)的插件:适合处理长期和大量级的任务,并具有断点爬取功能,不会因为宕机、关闭导致数据丢失。
6、集成 selenium,可以对 JavaScript 生成信息进行抽取
7、可轻松自定义 http 请求,并内置多代理随机切换功能。 可通过定义 http 请求实现模拟登录。
8、使用 slf4j 作为日志门面,可对接多种日志
9、使用类似Hadoop的Configuration机制,可为每个爬虫定制配置信息。
付费服务
模板/插件

联系客服

手机版

扫一扫进入手机版

返回顶部