JAVA爬虫-区块链快讯爬虫实践

题图： Stan Lee playing Spider-Man on Atari 2600, 1982.

需求：

    须要将目标的几个站点的快讯内容作定时爬取，并根据内容作重复过滤。

    

技术评审：

    站点的内容抓取刚开始是想用python，但在内容重复过滤这块没想好实践路径就未直接采用python；

    JAVA也看过其余一些开源框架好比：“xxl-crawler”"WebCollector",这两个框架其实在分布式上面略有些优点，但在文本过滤上并未有太好的解决文案；

    a、任务调度：

        任务调度用Quartz，成熟、灵活

    b、文本重复过滤

            考虑到数据多的时候重复数据匹配量比较大，若是用分词的内容作索引再循环过滤匹配文本项，效率过低；有没有一种方式能够快速建好文本特征，方便的使用关系数据库就能够作一个全局滤重。

            答案是：有的，为每一个快讯文本建一个指纹，重复的文本或者较大篇幅的文本重复，相关算法关键词：Simhash  相关介绍文章：https://blog.csdn.net/wh_springer/article/details/52177236

             其原理简述一下：Simhash算法将给定文本，根据其中的关键字，将文本最终计算出一个32位二进制串，我将生成的二进制串分红四个8位串，这样方便快速计算匹配度，数量大的时候还能够在指纹上建索引提升效率。

 

            

   上图为根据抓取的内容作的生成的指纹

    关键实现：

        

          

上图为整个模块基本架构

 

爬虫任务线程：是用户Quartz作调度，每一个目标站是单独的一个Job，具体的调度交给Quatz，爬虫的子JOB再抽取一个父类，作爬虫模板，这样单个爬虫代码量就不多了，附上一个目标站的实现类：

public class LianNewsJob extends NewsJob implements Job {
protected static long MAX_ID=0;

Logger logger = LoggerFactory.getLogger(WalianNewsJob.class);

@Override
public void execute(JobExecutionContext jobExecutionContext) {
TAG="WALIAN";
try {
saveNewsToQueue(getContent());
}catch (Exception e){
logger.error(TAG+"采集异常",e);
}

}

/**
* 抓取资讯
* @return
*/
private List<LxbNewsSuorce> getContent(){
LxbNewsSuorce newsItem;
List<LxbNewsSuorce> newsList = new ArrayList<>();
List<JSONObject> jsonList = new ArrayList<>();

try {

String responseJsonStr = getHttpContent(Constants.WALIAN_URL);
JSONObject responseJO = JSON.parseObject(responseJsonStr);
if(StringUtils.equals(responseJO.getString("code"),"000000")) {
JSONArray contentList = responseJO.getJSONObject("data").getJSONArray("list");
for (int i = 0; i < contentList.size(); i++) {
jsonList.add(contentList.getJSONObject(i));
}
sortContent(jsonList);

for (JSONObject jObj : jsonList) {
if (jObj.getLong("id") > MAX_ID) {
newsItem = new LxbNewsSuorce();
newsItem.setTitle(jObj.getString("title"));
newsItem.setContent(StringUtils.replace(jObj.getString("content")));
newsList.add(newsItem);
MAX_ID = jObj.getLong("id");
}
}
}
} catch (Exception e) {
logger.error(TAG+"抓取异常",e);
}
return newsList;
}

boolean isTitleExist(String title ){
Query userQuery = DBManager.getSqlManager().query(LxbNewsSuorce.class);
List<LxbNewsSuorce> newsList = userQuery.andEq("title",title).select();
if(newsList.size() > 0){
return true;
}
return false;
}

 

参考资料：

    Simhash借鉴了开源库：https://github.com/hankcs/HanLP