• 欢迎访问搞代码网站,推荐使用最新版火狐浏览器和Chrome浏览器访问本网站!
  • 如果您觉得本站非常有看点,那么赶紧使用Ctrl+D 收藏搞代码吧

开源的Web爬虫webmagic免费下载

工具类下载 程序员 2年前 (2020-06-26) 200次浏览 已收录 0个评论

webmagic是一个开源的Java垂直爬虫框架,覆盖爬虫的整个流程,也是很好的学习爬虫开发的材料。

开源的Web爬虫webmagic原理截图
开源的Web爬虫webmagic免费下载

开源的Web爬虫webmagic特性包括:
1)完全模块化的设计,强大的可扩展性。
2)提供丰富的抽取页面API。
3)无配置,但是可通过POJO+注解形式实现一个爬虫。
4)支持多线程。
5)支持分布式。
6)支持爬取js动态渲染的页面。
7)无框架依赖,可以灵活的嵌入到项目中去。

开源的Web爬虫webmagic下载地址:
开源的Web爬虫webmagic免费下载

GitHub 仓库挂件 WordPress 插件

code4craft / webmagic

A scalable web crawler framework for Java.

http://webmagic.io/


喜欢 (0)
[搞代码]
分享 (0)
发表我的评论
取消评论

表情 贴图 加粗 删除线 居中 斜体 签到

Hi,您需要填写昵称和邮箱!

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址