DHT 爬虫

1.DHT爬虫基础

  1. 了解DHT协议:https://blog.csdn.net/xxxxxx91116/article/details/7970815
  2. 了解DHT爬虫原理:https://www.cnblogs.com/xiejc/p/3727229.html
  3. 在simDHT基础上改造:https://github.com/wuzhenda/simDHT

2.simDHT爬虫源代码修改

在实际过程中发现获取到的hashinfo,数量非常少。通过阅读源码发现,simDHT仅仅获取了announce_peer的hashinfo。忽略了get_peer的,所以我们需要把这部分hashinfo增加上去。
在这里插入图片描述

3.DHT爬虫运行基本环境

在内网运行过,发现收不到任何的节点数据请求:find_node,announce_peer,get_peer。据说和防火墙NAT有关系。所以需要一个具有外网ip的机器(阿里云服务器可以额)。

4.通过hashinfo下载torrent文件,解析文件。