爬虫框架NetDiscovery有一个Admin模块,今天学习了一下,分享以下。html
1) 技术介绍
2) 功能介绍
2.1 爬虫管理:监控爬虫引擎里爬虫的工做状态
2.2 代理管理:经过按期任务获取代理网页上的免费IP并按期清理
- 服务器启动后,会把数据库里的全部Job加载到调度器(state:Normal)
- 内置的CheckProxyJob不能删除,用来按期遍历检查ProxyPool.proxyList里的代理IP是否还有效,若是无效就删除掉
3) 配置运行
- JDK8
- Idea IDE (对我来讲,比eclipse用起来更溜)
- gradle(NetDiscovery框架优先使用gradle)
- 参考模块代码中的application.properties
- 建立MySql数据库 /resource/static/sql/net_admin.sql
总结,经过前端layUI和后端SpringBoot搭建了一个Web框架。而后结合quartz实现定时job的控制。
参考:https://github.com/whvcse/EasyWeb前端